AIが論文を読んで「要約」してくれるって？ なのに、そのAIを作るOpenAI自体がなぜ揺らいでいるのか？

想像してみてください。あなたが夢見ていた会社に入社しました。世界を変えるような凄い技術を作っている場所です。しかし、時間が経つにつれて会社は、自分が最初に信じていた「人類のための安全な人工知能（AI）」という価値よりも、手っ取り早くお金になる製品を早く作り出すことばかりに追われるようになります。あなたは悩みに陥ります。「私がここで働き続けるのが正しいのか？」

最近、AI業界の「アイコン」ともいえるOpenAIで、このような悩みから主要な人材が次々と退社する事態が起きています。一体、世界最高のAI企業の内部では何が起きているのでしょうか？

なぜこれが重要なのか？

AIは今や私たちの日常と切り離せない存在となりました。しかし、この技術を作る企業の文化が揺らいでいれば、その影響はそのままユーザーに返ってきます。安全性を後回しにしたまま無理に製品をリリースすれば、予期せぬ技術的エラーや倫理的問題が発生する可能性があるからです。特にOpenAIは業界のスタンダードを作る場所であるため、今回の「退社ラッシュ」は技術発展のスピードと安全性の間のバランスが崩れているという危険なシグナルとして読めます。

わかりやすく解説：「基本」を忘れたエリートチーム

AI技術開発を学校の「勉強」に例えてみましょう。数学の問題を解くために基礎原理を一つずつ積み上げる「安全性および基礎研究」と、とにかく答えを早く書いて点数を稼ぐ「製品リリース」があるとします。

以前までOpenAIは、徹底的に基礎原理を積み上げるチームとして有名でした。しかし最近の雰囲気は完全に変わりました。OpenAIを去ったある元安全チームリーダーは、会社の文化が「安全性よりも製品リリースを優先する文化」に変質したと批判しました 出所 1, 出所 12。

まるでマラソン選手が記録を短縮しようとして無理に近道を選ぶのと似ています。安全装置なしで速く走れば記録は良くなるかもしれませんが、いつ大きく転ぶかわかりません。実際にAI安全を担当していたチームは、全コンピューティングリソースの20%しか配分されず、結局数週間後に解散させられました 出所 12。

簡単に言えば、車を作る時にブレーキとシートベルトを研究するチームよりも、とにかくエンジン出力を上げて速く走らせるチームに予算を集中させるようなものです。当然技術は早く発展しますが、その分リスクも高まるのです。

現在の状況：「口を閉ざす」契約書の罠

社員たちが会社を去りにくい構造的問題もあります。OpenAIは退社する社員たちに「非難禁止」条項が含まれた退職合意書に署名することを求めています。もしこれを拒否すれば、数百万ドルに達する自身の会社持分（株式）を放棄しなければなりません 出所 3。長年の努力が詰まった報酬を諦めて、会社を批判する「暴露」を覚悟しなければならない状況なのです。社員たちには巨大な経済的足かせがはめられたのも同然です。

個別の事例も深刻です。研究員のゾーイ・ヒッチグは、OpenAIがChatGPTに広告を導入する計画を発表したことに反発し、会社を去りました 出所 2。すでに2023年11月には、サム・アルトマンCEOが取締役会とのコミュニケーション問題で解任され、共同創業者であるグレッグ・ブロックマンも直ちに辞任するなど、内部的な信頼の危機が繰り返されています 出所 9, 出所 13。

今後はどうなるのか？

専門家はこのような人材流出が技術競争の勢力図を変えるだろうと指摘します。しかし、OpenAIが単に製品速度だけに執着するなら、むしろ他の企業が安全性と技術的優位性を同時に確保しながら先を行く可能性があります。

現在、多くの退社者が安全性をより重要視する他の競合他社や研究所に移っています 出所 4。結局、OpenAIの危機は単なる一社の問題ではなく、全世界の人工知能技術が「量的膨張」から「倫理的充実」へと移り変わる過程で経験する成長痛になる可能性が高いです。

例えるなら、今まさに歩き始めたばかりの「AI時代」という子供が、あまりに早く走ろうとして転びそうになっている状況です。今、私たちはその子供が健康に育つように、スピードよりも「方向」を確認すべき時ではないでしょうか？ 読者の皆さんは「速い技術」と「安全な技術」のどちらがより重要だと思いますか？

AIの視点

MindTickleBytesのAI記者による視点：企業が成長を追い求めるのは自然なことです。しかし、AIという多大な影響力を持つツールを扱う企業にとって、安全性は選択肢ではなく存在の理由そのものです。現在の危機を克服するには、OpenAIは今の製品中心的な思考から脱却し、技術が人類にどのような価値を与えるかについての根本的な省察が必要です。

参考資料

1. IQuitOpenAIBecauseItsCultureIsBroken
2. The Glut of ‘WhyIQuit’ Letters Is Out of Control - Business Insider

3. [Why theOpenAIsuperalignment team in charge of AI safety…

   Vox](https://www.vox.com/future-perfect/2024/5/17/24158403/openai-resignations-ai-safety-ilya-sutskever-jan-leike-artificial-intelligence)

4. HeQuitOpenAI— and Risked Millions to Warn Us - YouTube

5. [Sacking, revolt, return: how crisis atOpenAIover Sam…

   The Guardian](https://www.theguardian.com/technology/2023/nov/25/how-crisis-openai-sam-altman-unfolded)

6. Why is everyone leavingOpenAI?
7. OpenAIPresident Greg Brockman resigns after Sam Altman ouster