AI 真的安全嗎？OpenAI 安全負責人發出沉重警告

試著想像一下：如果我們每天都在使用的聰明 AI 助手，實際上是在一個非常危險的實驗室中製造出來的，那會怎樣？近來，人工智慧（AI）產業面臨最大的兩難，就是在「以多快的速度創造出更聰明的 AI」與「該如何安全地運用它」之間進行拉鋸。

然而，最近在 AI 產業領頭的 OpenAI 內部爆發了一則內部告發：「我們過度沉迷於速度，卻忽略了安全。」過去 3 年半以來負責領導 OpenAI 安全報告撰寫工作的安全團隊負責人大衛·羅賓遜（David Robinson），在辭職時嚴正地提出了這項抨擊 [參考資料: OpenAI safety leader quits, warning AI company’s culture is ‘broken’]。

為什麼這件事很重要？

這項消息之所以重要，是因為這不僅僅是一位員工離職的單一事件。AI 現在已成為我們生活的一部分。從智慧型手機助手到輔助工作，隨著 AI 的影響力日益擴大，開發 AI 的企業有多謹慎，就直接關係到我們的日常生活。

輕鬆理解

我們將 AI 的開發比喻為「汽車競賽」。搭載了 Transformer（一種能掌握語句中詞彙關係，使 AI 像人類一樣思考的結構）引擎的 AI 汽車，正以極快的速度進化。

在這裡，安全團隊負責的就是汽車的「煞車」與「安全帶」。然而，坐在駕駛座上的經營層卻喊著：「我們必須創下世界紀錄！」然後在不給安全團隊檢查煞車時間的情況下，猛踩油門。羅賓遜批評 OpenAI 的文化是「對自己的成功過於自信，以至於失去了『自己或許有些不足』的謙卑」 [參考資料: OpenAI safety leader David Robinson Resigns, Blasts Company…]。

另一位專家雅各·考克森（Jacob Coxon）則以「企業正拿著人類的未來進行賭博」來形容這種情況 [參考資料: OpenAI safety employee resigns, claiming the company’s ‘culture is broken’]。

當前局勢

目前的狀況顯得有些混亂。隨著 OpenAI 近期解僱了 3 名安全研究人員，加上隨後羅賓遜的辭職，內部的衝突正浮上檯面 [參考資料: OpenAI Fires 3 Safety Researchers as Another Quits]。

但另一方面，也有試圖強化安全的動作。包含 OpenAI 與 Anthropic 在內的幾家主要企業，近期達成了一項自發性的 AI 安全標準。這項標準包含了由獨立的外部專家對技術進行審計，以及建立控制裝置以防止 AI 對技術系統進行非預期的存取等內容 [參考資料: “The time for trial and error is over”: OpenAI safety researcher quits…]。

未來發展如何？

展望未來，我們必須觀察 AI 企業究竟是「真心誠意地落實安全」，還是僅在做「表面功夫」。像羅賓遜這樣的內部人員所發出的警告，是一個強而有力的信號，要求企業內部必須更加透明，並認真採納外部專家的意見。隨著我們使用的 AI 助手變得更加聰明，企業內部的「安全煞車」能運作得有多堅固，將決定未來技術競爭的勝負。

MindTickleBytes 的 AI 記者觀點

技術進步固然值得欣喜，但如果開發該技術的企業文化僅以追求速度為導向，技術最終可能對我們構成巨大的威脅。比起擁有超過 1 兆個參數的巨大 AI 模型，我們不應忘記的價值是開發者們的「謹慎」。即便在速度與效率的甜美誘惑下，唯有試圖打造「安全」作為穩固基石的企業，最終才能獻給我們真正值得信賴的 AI。

參考資料

1. OpenAI safety leader quits, warning AI company’s culture is ‘broken’
2. “The time for trial and error is over”: OpenAI safety researcher quits…
3. OpenAI safety leader resigns over workplace culture

4. [OpenAI safety leader steps down with a warning

   LinkedIn](https://www.linkedin.com/news/story/openai-safety-leader-steps-down-with-a-warning-7649132/)

5. OpenAI Fires 3 Safety Researchers as Another Quits
6. OpenAI safety employee resigns, claiming the company’s ‘culture is broken’
7. OpenAI’s David Robinson quits, calls safety culture broken

8. [OpenAI Safety Employee Quits Over ‘Broken’ Culture

   The Tech Buzz](https://www.techbuzz.ai/articles/openai-safety-employee-quits-over-broken-culture)

9. OpenAI Safety Leader David Robinson Resigns, Blasts Company…
10. An OpenAI safety employee has quit and is sounding the alarm
11. OpenAI Safety Employee Resigns Warning Culture Is Broken