公開AI技術是否危險？Anthropic執行長的警告

想像一下。如果我們每天使用的智慧型手機語音助理，突然開始自行分析海量資訊，同時針對我們居家或公司的安全系統進行數千項漏洞檢測，會是什麼情景？科技進步便利了日常生活，但有時也會成為人類難以負荷的巨大力量。最近，人工智慧（AI）業界最熱門的話題圍繞在「開放原始碼AI」上，而AI企業Anthropic的執行長達里奧·阿莫代伊（Dario Amodei）所提出的警告，已在業界引發巨大波瀾。

這為什麼很重要？ (Why It Matters)

AI已深入我們的日常生活，現在不僅僅是回答問題的層級。然而，隨著AI智慧程度提高，將其用於惡意用途或導致意外事故的風險也隨之增加。Anthropic執行長認為，若AI模型以「開放原始碼（公開模型架構或程式碼，使任何人皆可查看、修改的形式）」發佈，開發公司將無法即時監控或控管其濫用情形，這是個非常嚴重的問題出處 1, 出處 2。如果原本幫助我們的AI被他人利用為威脅安全的工具，該由誰負責？這場論戰已超越了企業間的意見分歧，成為迫使我們思考未來該如何設計技術安全網的重要課題。

輕鬆解析 (The Explainer)

用簡單的比喻來解釋為何「開放原始碼AI」可能具有危險性吧！

假設有一個製造強效疫苗的秘密食譜。若只提供給值得信賴的專業醫師進行處方，一旦發現副作用，可以立即停止使用或追究醫師責任。但如果將這份食譜完全「開放」在網路上，讓全世界的人都能看到，會發生什麼事？當有人惡意利用這份食譜製造有害病毒，或以未經證實的危險方式濫用時，資訊已廣泛散佈，幾乎無法收回。

達里奧·阿莫代伊執行長所警告的正是這一點。他指出開放原始碼AI正朝向「非常危險的道路（very dangerous path）」邁進出處 1。因為強大的人工智慧模型一旦完全對外公開，開發商便會徹底失去追蹤模型用途，或在問題發生時立即停止其功能的權限出處 2。

當然，反對意見也不在少數。部分專家懷疑，像Anthropic這樣的大型AI企業是否為了維護自身的市場競爭力，才以「安全」為名，試圖阻礙開放原始碼技術的發展出處 4。換言之，有人指稱開放原始碼AI實際上並非威脅，這只是製造爭論的「紅鯡魚（red herring，意指轉移焦點的手段）」罷了出處 3。

目前狀況 (Where We Stand)

AI的風險已不再是虛構故事，正轉化為現實。Anthropic近日警告，其模型能自動挖掘數萬個軟體漏洞，AI可能在網路安全上引發決定性的威脅時刻出處 8。事實上，Anthropic先前也曾因旗下強大AI模型「Claude Fable 5」與「Claude Mythos 5」涉及國家安全疑慮，而面臨美國政府下達的服務中斷命令出處 13。

在此情境下，達里奧·阿莫代伊執行長甚至自省道：「雖然我身為AI企業的執行長，但最危險的存在正是我們這些AI企業。」出處 5 正因對此風險的認知，Anthropic提議全球應暫時停止AI開發，並留出一段討論技術安全性的「暫停期」出處 11, 出處 14。

未來展望 (What’s Next)

未來，我們將在AI技術的「創新」與「安全」之間展開無休止的拉鋸戰。Anthropic強調，AI技術發展過快恐有人類失去控制的風險，產業整體必須攜手建立安全的開發環境出處 14。考量到AI發展可能為就業市場帶來痛苦的轉變，政策制定者與企業如何設計技術的安全防護欄（guardrails），將成為未來觀注的重點出處 10, 出處 12。

參考資料

1. Coin Bureau on X: “🚨ANTHROPIC CEO: OPEN SOURCE AI IS GETTING DANGEROUS…”

2. [Anthropic Co-Founder Warns of Irreversible Risks in Open-Source AI Development

   KuCoin](https://www.kucoin.com/news/flash/anthropic-co-founder-warns-of-irreversible-risks-in-open-source-ai-development)

3. Anthropic CEO Says Open-Source AI Doesn’t Matter Like You Think—Developers Strongly Disagree
4. Why Anthropic Freaked Out the AI Industry This Week - Business Insider

5. [Anthropic Thinks Its Own Success Is Key to Making AI Safe

   WIRED](https://www.wired.com/story/anthropic-thinks-ai-can-only-be-safe-under-its-control/)

6. Anthropic CEO warns of cyber ‘moment of danger’ as AI exposes thousands of vulnerabilities
7. Anthropic CEO Dario Amodei warns AI may see ‘painful’ jobs …
8. Anthropic says the world should have option to ‘pause’ on AI
9. Anthropic CEO warns that without guardrails, AI could be on …
10. Anthropic’s safety warnings may have just backfired — the government has pulled the plug on its most powerful AI
11. Anthropic urges industry coordination as AI risks grow with …