AI开发，现在是时候放慢脚步了吗？山姆·奥特曼的意外发言

AI Summary

OpenAI首席执行官山姆·奥特曼提到，出于对快速发展的AI技术安全性的考量，可能会放慢开发速度，并希望与竞争对手共同协调行动。

想象一下。如果一家昨天还以令人震惊的速度推出新功能的AI公司，突然说“让我们停下来检查一下安全”，你会作何感想？

无论是我们每天使用的聊天机器人，还是整理会议资料的AI助手，人工智能（AI）技术的发展日新月异。然而，人们对这种技术发展速度过快的担忧也日益加剧。最近，OpenAI首席执行官山姆·奥特曼（Sam Altman）向员工传达的信息在业内引发了巨大波澜。消息称，他们已准备好放缓最先进AI系统的开发速度。

长期以来，AI行业一直在激烈竞争，争夺谁能更快、更强大地构建模型。这就像一场为了率先发射火箭而进行的竞赛。但奥特曼首席执行官暗示可能放缓开发速度，表明AI企业现在正走出单纯的技术竞赛，开始认真考虑“安全”这一价值。

这对我们的日常生活也有很大影响。AI变得更聪明固然好，但通过在该过程中预先封堵可能产生的风险，可以创造一个让我们更放心、更信任地使用AI的环境。

打个比方，就像赛车一样。

到目前为止，我们只专注于提高最高时速。我们改装引擎，使用更轻的材料，每天都在打破纪录。但突然间，专家们发出了警告，称发生事故的风险太大了。山姆·奥特曼的提议就像是说：“让我们暂停比赛，一起检查一下安全带或刹车系统是否正常工作。”

另一个比喻是“学校学习”。如果学习进度太快，基础不稳，以后可能会引起大问题。所以奥特曼提议：“比起继续学习新科目，让我们先掌握如何安全地处理我们现在学到的知识吧。” 来源标题

奥特曼希望这种调节不应仅仅止步于OpenAI的努力。他希望竞争对手的AI企业也能配合节奏，朝着“安全AI”这一共同目标迈进。来源标题

包括OpenAI内部员工在内的多位AI行业相关人士最近公开表达了对尖端AI系统可能带来的风险的担忧。在某些情况下，人们甚至提到了如果AI变得不可控可能产生的极端风险，甚至是人类灭绝的可能性，从而提高了警惕。来源标题

这种不安在实际研究现场也得到了证实。例如，曾有人尝试利用AI（如Claude等）进行可能对人类致命的生物武器研究，这是一个鲜明的例子，说明了为何AI安全如此重要。来源标题

然而，一切并非一帆风顺。OpenAI战略未来部门主管迪恩·W·鲍尔（Dean W. Ball）指出，很难明确区分业内发生的商业利益和对安全的担忧。随着开源模型威胁到企业的盈利模式，很难判断什么是真正为了安全的决定，什么又是为了商业竞争的牵制。来源标题

此外，专家们警告说，企业之间就彼此调节速度达成协议的过程本身可能会遭遇“反垄断法（竞争法）”这一法律障碍。来源标题

山姆·奥特曼的这一提议能否真正落实，还有待观察。最大的关键在于竞争对手是否真的准备好退出这场危险的竞赛，以及如何解决法律问题。

明确的是，随着AI对我们社会的影响力越来越大，“安全且负责任的发展”正成为比“快速发展”更重要的价值。最好持续关注未来AI企业会有怎样的行动，以及他们创造的安全AI将如何改变我们的生活。来源标题

承认AI发展速度已达极限的这一决定具有非常象征意义。比起技术本身，这一举动将人类使用该技术时的安全和生存放在了讨论桌的最上方，我认为这是迈向AI成熟期的第一步。

参考资料

Share this article:

测试你的理解

Q1. 山姆·奥特曼首席执行官提到的放缓AI开发速度的主要原因是什么？

随着AI系统的发展，人们对包括人类灭绝可能性在内的安全风险的警惕性提高了。

Q2. 山姆·奥特曼所期望的理想开发速度调节方式是什么？

奥特曼希望不仅是OpenAI，其他竞争对手的AI企业也能一起协调和调节速度。

Q3. 专家指出的共同调节的潜在障碍是什么？

有人提出，多家企业就开发速度达成协议的过程可能会触犯竞争法（反垄断法）。