AI真的安全吗？OpenAI安全负责人离职并发出严厉警告

想象一下，如果那个我们每天都在使用的智能AI助手，实际上是在一个极其危险的实验室里制造出来的，那会怎样？最近，人工智能（AI）行业最大的困扰，便是在“如何更快地创造更聪明的AI”与“如何更安全地管控它”之间走钢丝。

然而，近日在AI行业的领军者OpenAI内部爆出了内部举报，称“我们对速度的痴迷已经远超对安全的重视”。在过去3.5年里负责领导OpenAI安全报告编写的安全团队负责人大卫·罗宾逊（David Robinson）在辞职时，对公司发出了严厉的批评 [出处：OpenAI safety leader quits, warning AI company’s culture is ‘broken’]。

为什么这很重要？

这条新闻之所以重要，不仅仅是因为一名员工的离职。AI如今已成为我们生活的一部分。从智能手机助手到工作辅助，随着AI影响力的扩大，制造这些AI的企业行事是否审慎，将直接关系到我们的日常生活。

浅显易懂的解读

我们将AI开发比作“汽车拉力赛”。装备了Transformer（一种通过捕捉语句中词汇间关系，使其像人类一样思考的AI架构）引擎的AI赛车正在飞速演进。

在这里，安全团队负责的是汽车的“刹车”与“安全带”。然而问题在于，坐在驾驶座上的高管们高喊着“我们必须打破世界纪录！”，让团队根本没有时间去检查刹车，而只是一味地踩下加速踏板。罗宾逊批评称，OpenAI的文化已经变得“对自身的成功过于确信，以至于失去了‘自己可能有所欠缺’的谦逊感” [出处：OpenAI safety leader David Robinson Resigns, Blasts Company…]。

另一位专家雅各布·考克森（Jacob Coxon）更是将这种情况形容为企业正在“以人类的未来作为赌注进行赌博” [出处：OpenAI safety employee resigns, claiming the company’s ‘culture is broken’]。

当前状况

目前的情况显得相当混乱。OpenAI近期解雇了3名安全研究员，随后罗宾逊辞职，公司内部的矛盾正在逐步显露给公众 [出处：OpenAI Fires 3 Safety Researchers as Another Quits]。

但与此同时，也有一些加强安全的举措。OpenAI和Anthropic等主要企业近期就自愿性AI安全标准达成了一致。这些标准包括由独立的外部专家对技术进行审计，以及建立控制装置以防止AI对技术系统进行未经授权的访问等内容 [出处：“The time for trial and error is over”: OpenAI safety researcher quits…]。

未来将会怎样？

未来，我们需要密切关注这些AI企业究竟是“真的在落实安全”，还是仅仅在进行“表演性的安全举措”。像罗宾逊这样的内部人士发出的警告，是要求企业在内部实现更高透明度、并认真听取外部专家建议的强烈信号。我们所使用的AI助手变得越聪明，企业内部的“安全刹车”运作得有多稳固，将决定未来技术竞赛的成败关键。

MindTickleBytes的AI记者观点

技术进步固然令人欣喜，但如果操作该技术的企业文化只追求速度，那么技术最终可能会成为巨大的风险。与拥有万亿级参数的巨型AI模型同等重要的，是研发者必须铭记的“谨慎”这一价值。即使在速度与效率的诱惑下，也只有那些致力于构建安全这一坚实基石的企业，最终才能为我们提供真正值得信赖的AI。

参考资料

1. OpenAI safety leader quits, warning AI company’s culture is ‘broken’
2. “The time for trial and error is over”: OpenAI safety researcher quits…
3. OpenAI safety leader resigns over workplace culture

4. [OpenAI safety leader steps down with a warning

   LinkedIn](https://www.linkedin.com/news/story/openai-safety-leader-steps-down-with-a-warning-7649132/)

5. OpenAI Fires 3 Safety Researchers as Another Quits
6. OpenAI safety employee resigns, claiming the company’s ‘culture is broken’
7. OpenAI’s David Robinson quits, calls safety culture broken

8. [OpenAI Safety Employee Quits Over ‘Broken’ Culture

   The Tech Buzz](https://www.techbuzz.ai/articles/openai-safety-employee-quits-over-broken-culture)

9. OpenAI Safety Leader David Robinson Resigns, Blasts Company…
10. An OpenAI safety employee has quit and is sounding the alarm
11. OpenAI Safety Employee Resigns Warning Culture Is Broken