AI安全研究員が解雇？OpenAIで起きた対立の真実

想像してみてください。あなたがある大規模プロジェクトの安全性を検査する責任者だとします。しかし、会社はより早いリリースを強要し、その過程で安全点検を省略しようとしています。そんな状況であなたならどうしますか？会社の問題を指摘して警告を発している最中に、突然「会社機密を漏洩した」という理由で解雇を言い渡されたら、どう感じるでしょうか？

最近、AI業界で最も熱い議論がOpenAI内部で巻き起こっています。人類の未来を左右しかねない強力な技術を開発するOpenAIで、安全を担当していた主要な研究員3名が相次いで解雇される事件が発生したからです。OpenAI fires 3 safety researchers in dispute over AI risks

なぜ重要なのか？

この事件が私たち一般人にとって重要な理由は、私たちが毎日利用するAIサービスがどのような「価値観」に基づいて作られているかを浮き彫りにしているからです。OpenAIは本来、「人類に有益なAI」を作ることを宣言して誕生した組織です。OpenAI fires three safety researchers amid dispute over AI risks

しかし今回の解雇事態は、企業が成長を追い求める過程で、AIの危険性を警告する内部の声をどのように扱うかを赤裸々に示しました。AIが私たちの仕事を塗り替え、日常を便利にする今、その技術の裏に隠された「安全」に対する配慮が脅かされているという警鐘かもしれないため、私たちはこの状況を注視しなければなりません。

簡単に言えば：「ブレーキ」と「アクセル」の対立

簡単に言えば、今回の事件は自動車の「ブレーキ」と「アクセル」の間の対立に例えられます。

自動車が目的地に早く到達するためには、当然アクセルが必要です。現在OpenAIはAIという強力な自動車に乗り、市場という道路を猛スピードで走行しています。しかし、このAIという車はあまりに強力であるため、一歩間違えれば大事故を起こすリスクを抱えています。そのため「安全研究員」たちは、この車が制御不能な速度で走らないよう、適切なタイミングでブレーキを踏むべきだと主張する人々です。OpenAI fires 3 safety researchers in dispute over AI risks

しかし企業は、市場で競合他社より先に出なければならないという商業的な理由から、アクセルを踏み続けることを望んでいます。

今回解雇された研究員たちは、会社が安全研究を行う過程で得られた内部データを外部の安全グループと共有したという理由で「信頼違反（breach of trust）」の嫌疑をかけられました。OpenAI cuts ties with 3 safety researchers, WSJ reports 調査結果によると、解雇された研究員の一人は、METR（AI安全に関する外部評価団体）のハッキング調査に関連する業務中、会社の連絡窓口役を務めていたことがわかっています。OpenAI Fires 3 Safety Researchers Over Shared Data

つまり、研究員たちは「公益のために情報を透明に扱うべきだ」と信じ、会社はこれを「企業機密を無断で漏洩した行為」と規定したのです。OpenAI fires three safety researchers over alleged breach of trust

現在の状況

現在、両者の立場は真っ向から対立しています。

• OpenAIの立場: 公式には、研究員たちが会社の「機密情報（sensitive information）」を不適切に扱ったために解雇したと主張しています。OpenAI fires workers for ‘mishandling sensitive information’ これは明白な内部規定違反であるという論理です。OpenAI fires 3 safety researchers in dispute over AI risks
• 研究員たちの立場: 解雇された研究員たちは公開書簡を通じ、自分たちの解雇は極めて「疑わしい状況（suspicious circumstances）」で行われたものであり、会社がAI安全に注力しようとする自分たちを報復として解雇したと反論しています。OpenAI fires 3 researchers, laid off employees say they chose safety…

一部の業界関係者は、今回の事態がOpenAI内部の他の安全研究員たちの間に萎縮するような雰囲気を作り出す可能性があると強く懸念しています。Fired OpenAI safety researchers dispute misconduct claims, warn of chilling effect

今後はどうなるか？

AI技術が人類にとって実存的リスク（existential risk、人類が生存できないほどの大きな脅威）になり得るという議論は、ここ数ヶ月でさらに激しさを増しています。OpenAI fires 3 safety researchers in dispute over AI risks 今回の事態を機に、私たちは今後2つの核心的な注目点に目を向ける必要があります。

第一に、企業内部のAI安全研究が、果たして企業の意向に左右されず、どれほど独立性を保障されるかという問題です。第二に、AIモデルの安全性を評価する外部団体との協力が、今後どれほど透明かつ円滑に進められるかです。OpenAI Fires Safety Researchers as Confidentiality and AI Oversight…

私たちは今後、AIがどれほど「賢くなるか」にだけ注目するのではなく、その賢さを安全に制御しようとする「人々の声」が企業内部で正しく届いているか、より注意深く見守らなければならないでしょう。技術の発展速度と同じくらい重要なのは、結局のところ、私たちが安全にその技術を使用できるかどうかということなのですから。

参考資料

1. OpenAI fires 3 safety researchers in dispute over AI risks
2. OpenAI fires three safety researchers amid dispute over AI risks
3. Google News - OpenAI fires three employees for allegedly…
4. OpenAI Fires 3 Safety Researchers Over Shared Data
5. Fired OpenAI safety researchers dispute misconduct claims, warn of chilling effect
6. OpenAI fires workers for ‘mishandling sensitive information’
7. OpenAI Fires Safety Researchers as Confidentiality and AI Oversight…
8. OpenAI fires 3 safety researchers in dispute over AI risks
9. OpenAI fires 3 safety researchers in dispute over AI risks
10. OpenAI fires 3 safety researchers in dispute over AI risks
11. OpenAI cuts ties with 3 safety researchers, WSJ reports
12. OpenAI Fires 3 Safety Researchers For Allegedly Sharing Info…
13. OpenAI fires 3 safety researchers in dispute over AI risks
14. Google News - OpenAI fires three safety researchers, reports say…
15. OpenAI fires three safety researchers over… - Business Standard
16. OpenAI fires 3 researchers, laid off employees say they chose safety…

17. [OpenAI fires safety team members over confidential…

    Fox Business](https://www.foxbusiness.com/technology/openai-fires-3-safety-researchers-accused-sharing-confidential-company-information-report)