AI 竟能帮我们读论文并“总结”？但 OpenAI 这个 AI 的缔造者自身为何摇摇欲坠？

试想一下：你入职了梦寐以求的公司，那里正研发着足以改变世界的尖端技术。然而随着时间的推移，公司不再执着于当初让你坚信的“造福人类的安全人工智能（AI）”这一价值，而是变得急于求成，一心只想着快速推出能赚钱的产品。你陷入了挣扎：“我真的还应该在这里工作吗？”

近来，作为 AI 行业“偶像”级别的 OpenAI，正因这样的挣扎而出现核心人才接连离职的现象。在这家全球顶尖的 AI 企业内部，到底发生了什么？

这为何重要？

AI 已与我们的日常生活密不可分。然而，若打造这项技术的企业文化发生动摇，后果将由用户买单。将安全置于次要位置而盲目发布产品，可能会导致意想不到的技术故障或伦理问题。鉴于 OpenAI 是行业的风向标，此次“离职潮”发出了一个危险信号，表明技术发展速度与安全之间的平衡已被打破。

浅显易懂：遗忘了“基本功”的精英团队

我们将 AI 技术研发比作学校里的“学习”。为了解答数学题，既有稳扎稳打钻研基础原理的“安全与基础研究”，也有为了快速填答以换取分数的“产品发布”。

此前，OpenAI 以其深耕基础原理的团队形象而闻名。但最近，氛围发生了彻底转变。一位离职的前安全团队负责人批评道，公司文化已经演变为“将产品发布置于安全之上的文化” 出处 1, 出处 12。

这就像马拉松选手为了缩短成绩而盲目抄近道。不采取安全防护措施而高速奔跑，成绩或许会好看，但也随时可能摔大跟头。事实上，负责 AI 安全的团队仅获得了总计算资源的 20%，最终还在几周后被解散了 出处 12。

简单来说，这就像造车时，比起研究刹车和安全带的团队，把预算统统砸向只负责提升引擎功率、追求极限速度的团队。技术当然会突飞猛进，但风险也随之水涨船高。

现状：被“封口”合约锁死

员工难以离职的结构性问题同样严峻。OpenAI 要求离职员工签署包含“非贬低条款”的离职协议。若拒绝签署，他们将面临失去价值数百万美元公司股权的风险 出处 3。这无异于给员工戴上了沉重的经济枷锁：要么放弃多年奋斗的成果，要么忍气吞声，不敢对公司进行任何“曝光”与批评。

个案亦令人深思。研究员 Zoë Hitzig 在得知 OpenAI 计划在 ChatGPT 中引入广告后，愤而辞职 出处 2。早在 2023 年 11 月，Sam Altman 就因与董事会的沟通问题被解职，联合创始人 Greg Brockman 随后也宣布辞职，内部信任危机反复上演 出处 9, 出处 13。

未来将走向何方？

专家指出，这种人才流失将改写技术竞争的格局。如果 OpenAI 仅仅执着于产品速度，其他企业反而可能在兼顾安全与技术优势的情况下实现弯道超车。

目前，许多离职者纷纷投向那些更重视安全、更具科研精神的竞争对手或研究机构 出处 4。究其根本，OpenAI 的危机并非个别公司的故障，它极有可能是全球人工智能技术从“量变扩张”向“伦理内化”过渡过程中所经历的成长阵痛。

打个比方，刚刚学会走路的“AI 时代”这个孩子，正面临因急于奔跑而摔倒的危险。我们现在是否更应关注他跑得有多快，而不是他去往哪里？读者朋友们，你们认为“迅捷的技术”与“安全的技术”，究竟哪一个更重要呢？

AI 的视角

MindTickleBytes 的 AI 记者视角：企业追逐成长无可厚非。但对于掌控人工智能这种具有巨大影响力工具的企业来说，安全不是可选项，而是其存在的意义所在。若要克服当前的危机，OpenAI 必须跳出当下“产品导向”的思维窠臼，深入反思技术应赋予人类怎样的价值。

参考资料

1. IQuitOpenAIBecauseItsCultureIsBroken
2. The Glut of ‘WhyIQuit’ Letters Is Out of Control - Business Insider

3. [Why theOpenAIsuperalignment team in charge of AI safety…

   Vox](https://www.vox.com/future-perfect/2024/5/17/24158403/openai-resignations-ai-safety-ilya-sutskever-jan-leike-artificial-intelligence)

4. HeQuitOpenAI— and Risked Millions to Warn Us - YouTube

5. [Sacking, revolt, return: how crisis atOpenAIover Sam…

   The Guardian](https://www.theguardian.com/technology/2023/nov/25/how-crisis-openai-sam-altman-unfolded)

6. Why is everyone leavingOpenAI?
7. OpenAIPresident Greg Brockman resigns after Sam Altman ouster