AI 开发，现在是需要控制速度的时候了吗？Anthropic CEO 的警告

想象一下。某天清晨，当你醒来检查智能手机时，发现人工智能（AI）在未经你允许的情况下，正随心所欲地控制着互联网上的各类信息。这听起来像科幻电影中的情节，但 AI 行业最权威的领导者之一却发出了警告：这一切可能会成为现实。

开发了热门 AI 模型“Claude”的 Anthropic 公司 CEO 达里奥·阿莫代（Dario Amodei）最近向 AI 行业提出了一个破天荒的建议：“让我们稍微减慢点速度”。这不仅仅是为了停止技术竞争，更是为了在这一强大的工具威胁到我们的生活之前，先建立起“安全防线”。

为什么这很重要？

我们现在生活在一个每天都有新 AI 模型出现、机器变得比以往任何时候都更加智能，并协助我们完成工作和日常琐事的时代。但阿莫代 CEO 分析认为，目前的技术发展速度已经超越了旨在防止 AI 负面影响的“安全机制”的发展速度 出处: Anthropic CEO calls for slowing the AI race as safety …。

如果 AI 按照非预期方向学习，或者在自行判断后做出危险行为，而我们没有技术能立即叫停，那会发生什么呢？阿莫代将这种危险描述为“严重的”，并强调政府和企业必须齐心协力进行严密监控 出处: Anthropic boss Dario Amodei calls for AI development to slow down。

简单来说：没有刹车的跑车

我们可以这样比喻：人工智能技术就像一辆引擎性能每天翻倍的高性能跑车。现在的 AI 行业为了追求更快的速度，一心只想着每天升级引擎。然而，对于这辆跑车来说最重要的“刹车”或“方向盘”，却尚未被精细打磨。

阿莫代 CEO 的主张很简单。“并不是要停止制造跑车。只是在以最高速度行驶之前，我们需要时间去完善那些能确保我们随时停下或转向的刹车和方向盘。”这一安全机制正是他所说的“3 阶段监管计划”的核心 出处: Anthropic CEO Dario Amodei calls on AI companies to slow down …。

现状：6 个月的警告

阿莫代 CEO 的担忧并非凭空恐惧。他最近通过博客警告称，不受控制的“自主 AI 智能体（试图在无需人类干预的情况下实现目标的人工智能）”在短短 6 个月内就有可能接管互联网 出处: Anthropic CEO calls for slowdown of AI development amid …。

当然，他并不是反对 AI 开发本身。他深信 AI 具有巨大的潜力，但他担心的是，技术带来的风险正比它所提供的益处更快地到来 出处: Anthropic boss Dario Amodei calls for AI development to slow down。

AI 的视角：比技术更重要的是控制力

我们梦想的是一个与 AI 共存的世界，而不是一个被 AI 控制的世界。阿莫代 CEO 的这次提议，既是 AI 产业步入成熟期过程中必然经历的“成长的烦恼”，也是必须进行的一次“安全检查”。

观察这一提议将给行业带来什么样的实质性变化非常重要。其他 AI 公司是否会响应这一提议，以及政府将制定什么级别的指导方针，将是关键所在。可以肯定的是，人们已逐渐达成共识：与技术的进步同样重要的是“人类的控制权”。现在，AI 行业已经到了比加速更需要放慢脚步、校准方向的时候了。

参考资料

1. Anthropic boss Dario Amodei calls for AI development to slow down, https://tech.yahoo.com/ai/claude/articles/anthropic-boss-dario-amodei-calls-153744714.html
2. Anthropic CEO Dario Amodei calls on AI companies to slow down AI development amid superint, https://www.euronews.com/my-europe/2026/09/12/anthropic-ceo-dario-amodei-calls-on-ai-companies-to-slow-down-ai-development-amid-superint
3. Anthropic CEO calls for slowdown of AI development amid …, https://www.cbsnews.com/news/anthropic-ceo-dario-amodei-calls-slowdown-ai-development/
4. Anthropic boss Dario Amodei calls for AI development to slow down, https://www.bbc.com/news/articles/c14dpgm0rg4o
5. Anthropic boss Dario Amodei calls for AI development to slow …, https://www.bbc.co.uk/news/articles/c14dpgm0rg4o
6. Anthropic CEO calls for slowing the AI race as safety …, https://www.nbcnews.com/news/us-news/anthropic-ceo-dario-amodei-ai-development-rcna597383