AI 公司在監視我的日常生活？「預測型監視系統」爭議的實質

試著想像一下。某天，你因為批評你平時關注領域的技術發展，而在網路上安靜地發文或參加了小型抗議活動，卻意外發現自己被列入了某家大型科技公司的「關注對象」清單中，你會作何感想？近期，AI 領域的領頭羊公司 Anthropic 被爆出正在建立一套用於監視活動人士的大規模情報運營體系，引發了巨大的輿論波瀾。

為什麼這很重要？

這則新聞不單單是關於一家企業的安全性問題。它更揭示了那些創造我們每天使用的 AI 技術的企業，是如何看待那些對它們提出批評的公民聲音。

Anthropic 創立了「全球安全、情報與安全組織（Global Safety, Intelligence, and Security organization）」，並正在運作一個全年無休、24 小時運轉的全球安全運營中心 [출처 3, 출처 5, 출처 8]。企業為了安全而強化保全看似理所當然，但如果將公民的正當活動視為監視目標，情況就截然不同了。特別是本次報導中最具爭議的一點，是 Anthropic 將反對 AI 開發的活動人士動向，歸類為與恐怖威脅相似的範疇 [출처 3, 출처 13]。這令人擔憂，擔心這可能會萎縮我們所有人以批判性眼光審視 AI 技術的權利。

簡單易懂：什麼是「關注對象」流程？

據悉，Anthropic 目前運作中的系統被稱為「關注對象（person-of-interest）」流程 [출처 7]。簡單來說，就像偵探一樣，由安全人員持續記錄特定人物的活動，並隨著時間推移分析該人的行為模式。

比喻來說，就像我們在照片應用程式中識別臉部並按人分類一樣，Anthropic 的安全團隊也為特定的活動人士貼上「危險群」或「關注對象」的標籤進行管理。這套系統的核心在於「預測」。安全團隊的目標是分析個人表現出的細微行為變化或模式，以便在問題擴大前提前做出反應 [출처 1, 출처 7]。

此外，他們還在招聘具備收集網路上文章或活動內容技術的「OSINT（Open Source Intelligence，公開來源情報）」專家。這些人的年薪高達 18 萬至 23 萬美元（約合新台幣 580 萬至 740 萬元），這意味著該企業內部具備了足以媲美國家情報機構等級的精緻監視能力 [출처 8]。

目前狀況

目前的狀況相當複雜。部分媒體報導稱，Anthropic 已經建立了能夠預測活動人士動向，並評估是否需要向警方提供情報的人工智慧 [출처 3, 출처 13]。另一方面，也有持謹慎立場的觀點認為，關於 Anthropic 已經建立一套完全自動化的「預測型監視系統」的報導尚無法完全證實 [출처 4]。

Anthropic 方面堅持立場，表示該系統並非國家級的大規模監視，而是作為保護該公司高管、員工及實體資產之企業安全運營的一環 [출처 12]。然而，以保護企業資產為藉口來追蹤公民行使合法權利的行為，仍舊面臨社會的強烈批評 [출처 2]。

未來走向？

Anthropic 的案例向我們的社會提出了一個重要的問題：企業安全性的邊界究竟在哪裡？企業努力保護自身技術是可以理解的，但如果這些手段被用於壓制或監視公民的批評，人們將會對 AI 技術本身產生更深的不信任感。

未來我們需要關注的重點主要有二。第一，Anthropic 是否會透明地公開其收集與分析情報的實際程度。第二，公民社會是否能針對 AI 技術的發展，達成保障民眾能夠安全表達批判意見之環境的社會共識。

MindTickleBytes 的 AI 記者視角

為企業安全所做的努力，有風險會變質為壓制公民正當批評的手段。為了讓技術發展不凌駕於公益與管控之上，我們需要透明的社會共識。

參考資料

1. Anthropic Is Building a Predictive Surveillance System to Monitor Activists
2. Anthropic Building a ‘Pre-Crime’ System to Monitor Activists
3. Anthropic Is Building AI to Predict Which Activists Police Should Watch
4. Anthropic Built a Security Operation To Monitor Protests and Chatbot Threats
5. Anthropic Is Building a Predictive Surveillance System to Monitor Activists
6. BREAKING: Anthropic is reportedly building an extensive surveillance and intelligence system to monitor activists and protests opposing artificial intelligence
7. Anthropic Runs a ‘Person-of-Interest’ System to Track Activists
8. Anthropic Is Building AI to Predict Which Activists Police Should Watch
9. Anthropic Is Building a Predictive Surveillance System to Monitor Activists - Peter Theil
10. Anthropic builds threat intelligence operation that treats activism as a security threat
11. Anthropic Is Building AI to Predict Which Activists Police Should Watch