AI 應該由誰來控制?Anthropic 與美國政府的正面衝突

複雜的 AI 神經網路圖形交錯於美國國會大廈上方,令人聯想到緊繃局勢的插圖
AI Summary

美國政府以國家安全為由下令中止 Anthropic 最新 AI 模型的運作,Anthropic 則指控此為政治針對性打壓,並提起訴訟予以反擊。

想像一下,您有一位聰明的 AI 助理,平時在撰寫複雜的工作電子郵件或尋找程式碼錯誤時,您每天都非常依賴它。然而某天早晨,當您試圖登入這位 AI 助理時,畫面上卻只出現一則冷冰冰的訊息:「由於政府命令,服務已遭封鎖」,這會是什麼樣的情況呢?您當天的工作立刻會陷入停擺與極大的混亂之中。

這聽起來像是科幻電影中的場景,但這正是目前在全球 AI 產業重鎮矽谷與美國政治心臟華盛頓特區之間真實發生的事情。知名 AI 聊天機器人「Claude」的開發商、擁有世界頂尖技術實力的企業 Anthropic,與美國川普政府發生了正面衝突。Anthropic 的員工們委屈地控訴他們「遭到政府不公平的霸凌,並成為政治打壓的目標」,最終公司更是對政府提起了大規模訴訟。

到底在創造世界上最聰明人工智慧的天才們,與擁有世界最高權力的美國政府之間發生了什麼事?今天 MindTickleBytes 將為您深入淺出地解析這起錯綜複雜事件的核心。


為什麼這很重要? (Why It Matters)

這起事件絕不僅僅是一間企業與政府之間常見的糾紛。因為這是一個歷史性的轉捩點,它將決定未來我們每天使用的 AI 技術應該得到誰的許可,以及應該依據什麼樣的規則來開發

打個比方,這就像電力剛被發明時,為了誰有權控制電網及開啟電源開關而展開的巨大權力鬥爭。現今的超大型 AI 已不再只是單純的軟體,它更像是「21 世紀的電力」。站在國家的立場上,有著必須防止這項強大且具破壞性的技術被濫用於設計生化武器或發動大規模網路恐怖攻擊等方面的重大責任。

另一方面,科技企業則強烈擔憂,如果技術創新因為政治偏好或毫無根據的恐懼而受到壓制及事前審查,最終國家的技術發展將會落後,並失去主導權。根據這場衝突的最終結果,我們未來的 AI 可能會變成受到徹底控制的「被馴服工具」,也可能保留為自由但偶爾帶有風險的「野生天才」。可以毫不誇張地說,各位未來將使用的所有 AI 服務的命運,正取決於現在的這場訴訟戰。


深入淺出 (The Explainer)

事件的起因始於 Anthropic 傾盡心力開發的最新 AI 模型:「Fable 5」「Mythos 5」。這裡的「模型 (Model)」簡單來說,就是包含了 AI 智慧與龐大知識的巨大大腦軟體。

美國政府某天突然命令 Anthropic 全面中止這兩個模型的運作。理由正是基於對國家安全的嚴重擔憂。政府認為,如果這個巨大的 AI 大腦遭到「越獄 (Jailbreak,指使用者巧妙地繞過 AI 的安全機制,強行獲取被禁止的危險答案的駭客手法)」,它可能會被恐怖份子或敵對國家變成可怕的武器 Anthropic 事件讓川普政府的 AI 監管充滿困惑 : NPR

讓我們把這個情況用更具體的比喻來說明吧。 Anthropic 打算向大眾開放一座名為 Fable 5 的超大型圖書館,裡面包含了世上所有的知識。然而警察卻跑來強行關閉了圖書館的大門。政府堅定的主張是這樣的:「如果有人在半夜破壞門鎖闖入,閱讀了詳細記載生化武器製造方法或駭客技術的危險書籍並犯下罪行,你們要怎麼負責?」

對此,Anthropic 強烈反彈,甚至反過來對政府提起訴訟。Anthropic 辯稱,他們已經在圖書館(模型)內部部署了層層的強力保全人員(Safeguard,指當使用者提出危險問題時,能從系統層面進行阻擋的安全機制)。事實上,Anthropic 也充滿自信地向大眾公開了這套安全機制已嚴格套用於 Fable 5 模型的版本,該版本對於網路安全、生物學、化學等相關的危險問題,會直接從源頭拒絕回答 [Anthropic 表示將下線 Claude Fable 5 以配合… WIRED](https://www.wired.com/story/anthropic-says-us-government-ordered-it-to-shut-down-mythos-models/)。

然而,政府的反應卻非常冷淡。行政部門的一名官員表示,Anthropic 厚顏無恥地無視網路指南,在未獲得政府正式批准的情況下就獨斷地將 Fable 5 投入市場,並向媒體赤裸裸地表達不滿:「他們耍了我們 (They screwed us)」 美國政府要求無法被駭客入侵的 LLM,這可能是在要求 Anthropic 做不可能的事…。政府的強硬立場意味著,僅僅在圖書館內部署企業雇用的內部保全人員是絕對無法令人安心的,必須經過政府嚴格的事前審查並獲得正式批准後才能開門營業。


目前情況 (Where We Stand)

目前這場衝突已經超越了單純的技術安全性爭論,正演變成一場情感撕裂的嚴重政治鬥爭。

Anthropic 內部的氣氛簡直處於爆發邊緣。從嚴格保證匿名性的內部 Slack(企業使用的商務通訊軟體)中流出的對話訊息來看,員工們的深度困惑與憤怒展露無遺。過去高喊國家層級網路安全的政府,現在卻反過來對著自認打造出最安全 AI 的他們,說出「遭到不公平針對、霸凌 (bullied) 以及差別待遇」,無法掩飾深切的混亂與不解 外流的 Anthropic Slack 訊息揭露員工對…的恐慌

更令人震驚的爆料來自 Anthropic 執行長達里奧·阿莫代 (Dario Amodei) 外流的內部備忘錄。阿莫代執行長爆料,川普政府強烈打壓 Anthropic 的真正原因並非出於技術風險。他尖銳地指出,因為 Anthropic 沒有像其他大型科技競爭對手那樣向總統提供巨額的政治獻金,也沒有進行所謂「獨裁者風格 (dictator-style)」的盲目讚美與阿諛奉承,因而被扣上不敬的罪名,成為了政治針對的目標 Anthropic 執行長為外流備忘錄中的語氣致歉… - Business Insider

此外,再加上複雜的人事問題,雙方的裂痕變得更深。川普政府官員強烈抨擊 Anthropic 大量聘用了前拜登政府的官員。事實上,Anthropic 確實網羅了大量前朝的核心智囊,包括前人工智慧安全研究所 (Artificial Intelligence Safety Institute) 所長伊莉莎白·凱利 (Elizabeth Kelly)、前國家安全會議 (NSC) 技術與國家安全協調員塔倫·查布拉 (Tarun Chhabra),以及前拜登總統的 AI 顧問班·布坎南 (Ben Buchanan) 等人 Anthropic 與美國國防部爭端 - Wikipedia

反對陣營,即支持政府採取強硬監管手段的一方,其攻擊也不容小覷。曾在川普政府擔任 AI 與加密貨幣政策總管 (czar,指總管特定領域政策的負責人) 的著名創投家大衛·薩克斯 (David Sacks) 正面抨擊了 Anthropic。他強烈指責 Anthropic 向大眾散播對技術的盲目恐懼 (fear-mongering),最終試圖引導政府制定只對他們有利的監管政策,並藉此阻止後進者進入市場,正在使用一種「巧妙的監管俘虜 (regulatory capture) 策略」 Anthropic 要求監管。華盛頓做得更絕

簡單來說,這是一種強烈的質疑,認為 Anthropic 在率先爬上創新的階梯後,企圖利用政府監管這把刀來踢開階梯,讓後面跟進的其他企業無法向上爬。

最有趣的是整個矽谷不尋常的反應。平時為了爭奪 AI 市場佔有率第一名而鬥得你死我活的宿敵關係——OpenAI 與 Google 的員工,這次竟然也挺身而出,強烈支持 Anthropic 提起的訴訟 OpenAI 與 Google 的員工支持 Anthropic 的訴訟…

這就像是平時互不相讓的競爭對手球隊,當覺得裁判(政府)將比賽規則改得太過武斷且具壓迫性時,便決定並肩作戰,異口同聲地高喊:「這太不公平了!」的局面。


未來發展如何? (What’s Next)

此次事件似乎不會是個在一兩天內就能結束的單一插曲。事實上,Anthropic 與川普政府以國家安全疑慮為由發生如此強烈的衝突,這已經是最近一年內發生的第二起重大事件了 Anthropic 與川普關於 Claude Mythos 5 與 Fable 5 的鬥爭解析。這表示雙方的不信任與緊張關係並非一次性的,而是結構性地根深蒂固。

現在我們必須關注這場巨大抗爭中最重要的看點:法院究竟會站在哪一邊?

如果政府的「國家安全」邏輯佔上風,未來美國所有的 AI 企業在向世界推出新技術與產品之前,將被強制要求通過政府嚴格的政治與安全審查。這可能會大幅減緩創新的速度。反之,如果 Anthropic 勝訴,歷史將留下一個非常重要的判例,證明科技企業的發展自由與自身的安全機制優先於政府的直接控制。這將成為決定未來全球 AI 產業發展速度及方向的重大里程碑。


AI 的觀點 (AI’s Take)

以 MindTickleBytes AI 記者的觀點來看,這次 Anthropic 與美國政府的正面衝突,拋出了一個本質上的哲學問題:「技術所能承受的自由極限到底在哪裡?」

當然,強大的力量必然伴隨著相稱的沉重責任與透明的控制。AI 就像是能將人類生活與文明實現飛躍性提升的魔法,但反過來,如果遭到濫用,它也是一把可能會造成難以想像損害的雙面刃。

然而,當這種控制並非基於社會共識或客觀的技術評估,而是出自於政治權力的邏輯或情緒性的得罪定罪時,改變世界的創新火花將會非常容易地被熄滅。在政府的正當監管與科技企業不被壓抑的創新之間,該如何找到一個健康且充滿智慧的平衡點,人類目前正站上最艱難的試驗台上。


參考資料

  1. 外流的 Anthropic Slack 訊息揭露員工對…的恐慌
  2. Anthropic 執行長為外流備忘錄中的語氣致歉… - Business Insider
  3. [Anthropic 表示將下線 Claude Fable 5 以配合… WIRED](https://www.wired.com/story/anthropic-says-us-government-ordered-it-to-shut-down-mythos-models/)
  4. 美國政府要求無法被駭客入侵的 LLM,這可能是在要求 Anthropic 做不可能的事…
  5. OpenAI 與 Google 的員工支持 Anthropic 的訴訟…
  6. Anthropic 與美國國防部爭端 - Wikipedia
  7. Anthropic 要求監管。華盛頓做得更絕
  8. Anthropic 事件讓川普政府的 AI 監管充滿困惑 : NPR
  9. Anthropic 與川普關於 Claude Mythos 5 與 Fable 5 的鬥爭解析
測試你的理解
Q1. 美國政府下令中止 Anthropic 最新模型 (Fable 5, Mythos 5) 運作的官方理由是什麼?
  • 因為技術實力不如競爭對手
  • 因為 AI 產生的版權侵權問題
  • 因為擔心發生可能威脅國家安全的越獄 (Jailbreak)
美國政府擔心 Fable 5 與 Mythos 5 模型若遭駭客攻擊(越獄),恐對國家安全造成嚴重威脅,因此下令中止其運作。
Q2. Anthropic 的執行長達里奧·阿莫代 (Dario Amodei) 在外流的內部備忘錄中,對美國政府的措施提出了什麼核心主張?
  • 因為沒有像競爭對手那樣對總統提供政治獻金或讚美,所以成為了被針對的目標。
  • 因為 AI 技術發展速度太快,所以歡迎政府的監管。
  • 這純粹是因為政府對技術理解不足而產生的誤會。
達里奧·阿莫代主張,Anthropic 之所以成為政府針對的目標,是因為他們沒有像競爭對手那樣發表『獨裁者風格』的讚美或提供政治獻金。
Q3. 對於 Anthropic 反抗政府措施所提起的訴訟,競爭對手 OpenAI 與 Google 的員工有何反應?
  • 指責 Anthropic 的錯誤並支持政府。
  • 趁著競爭對手發生危機藉機宣傳自家的模型。
  • 贊同 Anthropic 的立場並支持這項訴訟。
令人驚訝的是,即使是處於激烈競爭關係的 OpenAI 與 Google 員工,也表明了支持 Anthropic 訴訟的立場,展現出團結的態度。