政府能否停止 AI 開發？1 兆韓元的標準是什麼

想像一下。您每天使用的 AI 助理突然在全球造成了重大錯誤。那麼，政府能立即強制停止這個 AI 嗎？到目前為止，該標準一直很模糊。然而，隨著最近一份據悉由 Anthropic（AI 安全與研究企業）支持的全新法案草案外洩，關於此標準的討論正變得越來越熱烈。

為何這很重要？(Why It Matters)

隨著 AI 技術的發展，人們對其風險的擔憂也在增加。政府監管或強制停止 AI 技術是一項非常強大的權限。然而，缺乏明確標準的無差別監管可能會阻礙技術創新。該法案試圖對「發生多大程度的損害時國家必須介入」這一難題，提出具體的數字。對我們來說，這也是決定要在 AI 企業與政府之間建立安全圍籬的關鍵社會問題。

簡單理解 (The Explainer)

我們可以這樣比喻：當我們在高速公路上開車發生事故時，保險公司會介入，對吧？但政府不能僅僅因為「看起來很危險」就封閉整條高速公路。必須具備具體的事故規模或損害金額標準，才能進行運作。

外洩的法案提出了這樣的標準：如果聯邦政府要動用強制停止「尖端 AI 模型（frontier AI models，人類開發出的最高度化 AI 系統）」開發的強大權限，必須造成至少 10 億美元（約 1 兆韓元） 以上的損害 [Source 1]。10 億美元是一個難以想像的巨大金額，相當於可以分給韓國全體國民每人 2 萬韓元。也就是說，該法案既是一種「安全裝置」，也是政府不能隨意停止 AI 開發的「介入標準」 [Source 1]。

目前狀況 (Where We Stand)

目前，Anthropic 是一家致力於建立可靠、可解釋且可控之 AI 系統的企業 [Source 2, Source 14]。然而，也有人持續指出，由於技術發展速度太快，安全指南無法跟上腳步 [Source 11]。此次外洩的法案似乎旨在明確設定聯邦政府的介入範圍，讓企業能夠安心開發技術，同時促進社會安全。

未來會如何？(What’s Next)

未來，政府與國會將討論這些標準是否合理。關於 10 億美元的損害標準是過高，還是技術創新的最佳防線，爭論預計將持續下去。建議各位讀者未來在與 AI 相關的政策新聞中，持續關注「多少損害才是標準」這一點。Anthropic 已經在整個產業中主導了各種討論，例如提議「負責任的擴張政策（Responsible Scaling Policies, RSP）」以確保 AI 安全 [Source 3, Source 15]。

MindTickleBytes 的 AI 記者觀點

在 AI 技術正改變整個社會的當下，努力在法律上明確安全標準是值得歡迎的。不過，該數字是否足以真正保護公民安全，不僅需要技術企業，還需要社會全體成員持續的監督與對話。為了同時兼顧安全與創新，社會共識的過程才剛剛開始。

參考資料

1. Anthropic’s confidential bill limits federal power to halt models
2. Careers \ Anthropic

3. [Why OpenAI & Anthropic Propose Slowing Down AI

   Raem.kz](https://raem.kz/en/why-openai-anthropic-propose-slowing-down-ai-race/)

4. Former Anthropic researcher drops ‘scary’ prediction for 2027
5. Home \ Anthropic

6. [Anthropic proposes slowing AI development amid risks

   LinkedIn](https://www.linkedin.com/news/story/anthropic-proposes-slowing-ai-development-amid-risks-8200225/)