AI安全研究员被解雇？OpenAI冲突背后的真相

想象一下，如果你是某个大型项目安全性审查的负责人。如果公司急于发布成果，并试图跳过安全检查，你会怎么做？如果在指出公司问题并发出警告的过程中，突然被公司以“泄露商业机密”为由解雇，你会有什么感受？

近期，人工智能（AI）行业最激烈的争议正在OpenAI内部上演。因为在开发足以左右人类未来的强大技术的OpenAI公司，负责安全的3名核心研究员接连被解雇。 OpenAI fires 3 safety researchers in dispute over AI risks

这为何重要？

这件事对我们普通人之所以重要，是因为它真实展现了我们每天使用的AI服务是在什么样的“价值观”基础上构建的。OpenAI诞生之初就宣称要制造“造福人类的AI”。 OpenAI fires three safety researchers amid dispute over AI risks

然而，此次解雇事件赤裸裸地揭示了企业在追求增长的过程中，是如何对待内部发出的关于AI风险的警告声音的。现在AI正在改变我们的就业环境，让生活变得更加便捷，这或许是一个信号，表明技术背后关于“安全”的考量正在受到威胁，因此我们必须关注这一状况。

浅显易懂的类比：“刹车”与“油门”的冲突

简单来说，这件事可以比作汽车的“刹车”与“油门”之间的冲突。

如果汽车想要快速到达目的地，当然需要油门。目前的OpenAI正驾驶着名为AI的强大汽车，在市场的道路上以极高的速度行驶。然而，这种名为AI的汽车太过强大，稍有不慎就有可能酿成大祸。因此，“安全研究员”就是那些主张为了不让汽车以无法控制的速度行驶，必须在适当时候踩下刹车的人。 OpenAI fires 3 safety researchers in dispute over AI risks

但企业出于市场竞争的商业考虑，希望持续踩下油门以领先于竞争对手。

此次被解雇的研究员因将安全研究过程中产生的内部数据与外部安全小组共享，被指控“违背信任（breach of trust）”。 OpenAI cuts ties with 3 safety researchers, WSJ reports 据调查结果显示，其中一名研究员在进行与METR（AI安全相关外部评估组织）的黑客攻击调查相关工作时，担任了公司的联络人角色。 OpenAI Fires 3 Safety Researchers Over Shared Data

也就是说，研究员相信“为了公益应该透明地处理信息”，而公司则将其定性为“无权泄露企业机密的行为”。 OpenAI fires three safety researchers over alleged breach of trust

当前状况

目前，双方立场针锋相对。

• OpenAI立场：正式声称解雇是因为研究员不当处理了公司的“敏感信息（sensitive information）”。 OpenAI fires workers for ‘mishandling sensitive information’ 逻辑是这属于明确的内部政策违规。 OpenAI fires 3 safety researchers in dispute over AI risks
• 研究员立场：被解雇的研究员通过公开信表示，他们的解雇是在非常“可疑的情况下（suspicious circumstances）”发生的，并反击称公司解雇他们是因为他们专注于AI安全，这属于报复性解雇。 OpenAI fires 3 researchers, laid off employees say they chose safety…

一些业内人士非常担心，此次事件可能会在OpenAI内部的其他安全研究员之间营造出一种萎缩的氛围。 Fired OpenAI safety researchers dispute misconduct claims, warn of chilling effect

未来将如何发展？

近几个月来，关于AI技术可能对人类构成生存风险（existential risk，大到足以威胁人类生存的威胁）的讨论愈演愈烈。 OpenAI fires 3 safety researchers in dispute over AI risks 以此次事件为契机，我们未来需要关注两个核心观察点。

第一，企业内部的AI安全研究究竟能在多大程度上不受企业影响，保证其独立性。第二，与评估AI模型安全性的外部组织的合作未来能有多透明、多顺畅。 OpenAI Fires Safety Researchers as Confidentiality and AI Oversight…

未来我们不仅要关注AI变得多么“聪明”，更要仔细观察企业内部是否正在倾听那些试图安全控制这种聪明才智的“人的声音”。毕竟，技术的进步固然重要，但我们能否安全地使用该技术更为关键。

参考资料

1. OpenAI fires 3 safety researchers in dispute over AI risks
2. OpenAI fires three safety researchers amid dispute over AI risks
3. Google News - OpenAI fires three employees for allegedly…
4. OpenAI Fires 3 Safety Researchers Over Shared Data
5. Fired OpenAI safety researchers dispute misconduct claims, warn of chilling effect
6. OpenAI fires workers for ‘mishandling sensitive information’
7. OpenAI Fires Safety Researchers as Confidentiality and AI Oversight…
8. OpenAI fires 3 safety researchers in dispute over AI risks
9. OpenAI fires 3 safety researchers in dispute over AI risks
10. OpenAI fires 3 safety researchers in dispute over AI risks
11. OpenAI cuts ties with 3 safety researchers, WSJ reports
12. OpenAI Fires 3 Safety Researchers For Allegedly Sharing Info…
13. OpenAI fires 3 safety researchers in dispute over AI risks
14. Google News - OpenAI fires three safety researchers, reports say…
15. OpenAI fires three safety researchers over… - Business Standard
16. OpenAI fires 3 researchers, laid off employees say they chose safety…

17. [OpenAI fires safety team members over confidential…

    Fox Business](https://www.foxbusiness.com/technology/openai-fires-3-safety-researchers-accused-sharing-confidential-company-information-report)