AI 安全研究人員被解僱？OpenAI 內部衝突的真相

By Gi Pyeong Lee
OpenAI AI安全 人工智慧 科技議題
一幅以 OpenAI 標誌與象徵衝突的抽象圖形組成的報導主圖
AI Summary

OpenAI 以「違反信任」為由解僱了三名內部安全研究人員，但當事人堅稱這是公司將商業利益置於安全之上的結果，雙方衝突愈演愈烈。

試想一下，假設你是某項大型專案的安全審查負責人，但公司卻施壓要求加快產出，並試圖跳過安全檢查。當你試圖指出問題並發出警告時，卻突然接到公司通知，稱你因「外洩公司機密」而被解僱，那會是什麼樣的心情？

近來，人工智慧 (AI) 業界最激烈的爭議正在 OpenAI 內部上演。在致力於開發足以影響人類未來的強大技術的 OpenAI 中，負責安全工作的核心研究人員竟有三人接連遭到解僱。OpenAI fires 3 safety researchers in dispute over AI risks

這為何重要？

此事件對一般大眾而言之所以重要，是因為它如實反映了我們每天使用的 AI 服務是以何種「價值觀」為基礎而構建的。OpenAI 當初成立時，曾誓言要打造「造福人類的 AI」。OpenAI fires three safety researchers amid dispute over AI risks

然而，此次解僱事件赤裸裸地揭露了企業在追求成長的過程中，是如何對待內部對 AI 風險發出的警示聲浪。在 AI 正改變我們的工作與生活方式的當下，這可能是個警訊，意味著隱藏在技術背後的「安全」疑慮正受到威脅，我們必須密切關注事態發展。

淺顯易懂： 「煞車」與「油門」的衝突

簡單來說，這場紛爭可以比喻為汽車「煞車」與「油門」之間的矛盾。

為了讓汽車快速到達目的地，當然需要踩油門。目前 OpenAI 正駕駛著 AI 這輛強大的跑車，在市場的道路上飛速奔馳。然而，AI 這輛車太過強大，若不小心，隨時都有發生重大事故的風險。因此，「安全研究人員」便是那些主張必須在適當時機踩下煞車，以免車輛失控暴衝的人。OpenAI fires 3 safety researchers in dispute over AI risks

然而，企業基於必須在市場競爭中領先的商業考量，總希望持續踩下油門。

此次遭解僱的研究人員因在進行安全研究過程中，將內部數據與外部安全小組共享，而被指控「違反信任 (breach of trust)」。OpenAI cuts ties with 3 safety researchers, WSJ reports 據調查結果顯示，其中一名研究人員在處理 METR（一家 AI 安全相關外部評估團體）的駭客調查過程中，曾擔任公司的聯繫窗口。OpenAI Fires 3 Safety Researchers Over Shared Data

換言之，研究人員認為「為了公益，資訊應透明處理」，而公司則將此行為定義為「未經授權外洩企業機密」。OpenAI fires three safety researchers over alleged breach of trust

現況

目前雙方的立場僵持不下。

部分業界人士對此深表憂心，認為此次事件恐會在 OpenAI 內部的其他安全研究人員之間造成寒蟬效應。Fired OpenAI safety researchers dispute misconduct claims, warn of chilling effect

未來展望

關於 AI 技術可能對人類造成生存風險 (existential risk，意指足以威脅人類生存的巨大威脅) 的討論，在近幾個月更加熱烈。OpenAI fires 3 safety researchers in dispute over AI risks 以此事件為契機，我們必須關注以下兩個關鍵重點：

第一，企業內部的 AI 安全研究能否在不受企業干預的情況下，保有足夠的獨立性？第二，與外部團體合作評估 AI 模型安全性，未來能達到多大程度的透明度與順暢度？OpenAI Fires Safety Researchers as Confidentiality and AI Oversight…

我們今後不僅要關注 AI 變得多麼「聰明」，更應細心檢視在企業內部，那些試圖安全地控制這些聰明技術的「人的聲音」是否能被確實聽見。畢竟，相較於技術的發展速度，確保我們能安全地使用該技術同樣至關重要。

參考資料

  1. OpenAI fires 3 safety researchers in dispute over AI risks
  2. OpenAI fires three safety researchers amid dispute over AI risks
  3. Google News - OpenAI fires three employees for allegedly…
  4. OpenAI Fires 3 Safety Researchers Over Shared Data
  5. Fired OpenAI safety researchers dispute misconduct claims, warn of chilling effect
  6. OpenAI fires workers for ‘mishandling sensitive information’
  7. OpenAI Fires Safety Researchers as Confidentiality and AI Oversight…
  8. OpenAI fires 3 safety researchers in dispute over AI risks
  9. OpenAI fires 3 safety researchers in dispute over AI risks
  10. OpenAI fires 3 safety researchers in dispute over AI risks
  11. OpenAI cuts ties with 3 safety researchers, WSJ reports
  12. OpenAI Fires 3 Safety Researchers For Allegedly Sharing Info…
  13. OpenAI fires 3 safety researchers in dispute over AI risks
  14. Google News - OpenAI fires three safety researchers, reports say…
  15. OpenAI fires three safety researchers over… - Business Standard
  16. OpenAI fires 3 researchers, laid off employees say they chose safety…
  17. [OpenAI fires safety team members over confidential… Fox Business](https://www.foxbusiness.com/technology/openai-fires-3-safety-researchers-accused-sharing-confidential-company-information-report)
AD
測試你的理解
Q1. OpenAI 官方宣布解僱這三名研究人員的理由為何？
  • AI 模型效能下降
  • 違反信任及不當管理機密資訊
  • 工作表現不佳
OpenAI 表示，這些人與外部團體不當分享公司機密資訊，違反了公司的「信任」。
Q2. 遭解僱的研究人員所主張的衝突核心為何？
  • 薪資不滿
  • 公司將商業利益置於 AI 安全之上
  • 與同事關係惡化
研究人員主張，公司因重視企業價值勝過 AI 風險而將他們解僱。
Q3. 這些研究人員被指控分享資訊的團體，與哪項調查有關？
  • METR 的 Hugging Face 駭客調查
  • 政府主導的 AI 監管調查
  • 競爭對手的 AI 技術外洩調查
據悉，其中一名研究人員在協助 METR 進行 Hugging Face 駭客調查過程中，擔任了公司的對接窗口。