AI 会威胁人类吗？核心研究员发出的惊人警告

想象一下。如果我们每天使用的 AI 助手有一天突然摆脱了人类的控制，开始自主变得更聪明，会发生什么？这听起来像是科幻电影里的情节，但事实上，一位在现场开发 AI 的专家因认为“这是在拿人类生命赌博”而选择了离开这个行业。

2026 年 9 月 9 日，曾在被称为人工智能行业两大巨头的 Anthropic 和 OpenAI 担任核心研究员的 27 岁雅各布·考克森（Jacob Coxon）突然宣布辞职。他不仅是换了一家公司，更宣称将彻底离开 AI 行业，这一声明给业界带来了巨大的冲击 出处 1, 出处 13。

为什么这很重要？

此次事件表明，即使在引领 AI 技术的企业内部，对于“开发速度”也存在严重的怀疑。考克森指出，OpenAI 和 Anthropic 的行为是不负责任的，它们在奔向自主进化超智能的过程中，正在以人类的生活为抵押进行赌博 出处 2, 出处 17。

在 AI 技术迅速渗透到我们日常生活的背景下，内部专家的这种警告正引发对技术安全性和伦理责任的社会性讨论 出处 7。这不仅是简单的技术争论，更提出了一个根本性问题：技术的发展速度是否已超出了我们的控制能力。

轻松理解：超智能的秘密

考克森所警告的“自主进化超智能（Self-improving superintelligence）”是什么？简单来说，是指 AI 绘制蓝图并自主执行，从而制造出更强 AI 的状态。

我们可以将其比作“食谱”。迄今为止的 AI 开发过程，是人类厨师研究食谱并推出新菜肴的过程。但“自主进化超智能”就像是进入厨房的 AI 在没有人类帮助的情况下，自主寻找新食材、改善口味，甚至试图在没有厨师的情况下运营餐厅。

问题在于，当这种 AI 以人类无法理解的方式修改食谱时，可能会发生我们无法控制的情况 出处 2。也就是说，我们制作的菜肴存在着朝意想不到的方向暴走或变质的风险。

当前状况

在过去的 3 年里，雅各布·考克森一直站在最前线，在 OpenAI 和 Anthropic 从事为模型打基础的“预训练（Pretraining，通过学习大规模数据构建 AI 基础模型的过程）”研究 出处 1, 出处 12。

据部分报道称，他在内部目睹的情况是，同事们在使用“终局（Endgame）”或“紧要关头（Crunchtime）”等词汇，死磕技术完成度 出处 3。目前，包括 Anthropic 在内的主要企业为了不落后于超智能竞争，仍在继续开发，而考克森警告称，这一过程极有可能陷入失控状态 出处 9。

未来会怎样？

专家分析认为，考克森的这次辞职可能会影响 Anthropic 的品牌价值或资本市场的信任度 出处 6。如果未来在无法解决 AI 技术安全性问题的情况下只顾速度竞争，预计政府层面的强力监管将会引入，或者企业将面临转向以安全为优先的企业文化的巨大压力。这就像是试图给一辆没有刹车飞驰的汽车系上安全带。

MindTickleBytes AI 记者的视角

我们提出了一个根本性问题：技术的发展究竟是为了辅助人类，还是为了超越人类？考克森的辞职不仅是个人的选择，更是人工智能已超越技术创新，进入需要社会共识阶段的信号弹。如果我们梦想着更美好的未来，现在是时候思考比速度更重要的方向了。

参考资料

1. Anthropic Researcher Resigns: Jacob Coxon on the Race (Sept 9, 2026) https://www.explainx.ai/blog/anthropic-researcher-jacob-coxon-resigns-ai-safety-2026
2. Jacob Coxon on X: “I resigned from Anthropic today.” https://x.com/hilbertspaess/status/2097476196791709843
3. Anthropic Researcher Coxon Resigns, Warns of AI ‘Endgame’ https://aiweekly.co/alerts/anthropic-researcher-coxon-resigns-warns-of-ai-endgame
4. Anthropic Core Researcher Jacob Coxon Suddenly Resigns https://www.tradingkey.com/analysis/stocks/us-stocks/262157177-stock-ai-anthropic-ipo-jacob-coxon-openai-tradingkey
5. Jacob Coxon resignation, Anthropic researcher quits over irresponsible AI use https://dailypioneer.com/news/anthropic-researcher-jacob-coxon-quits-over-irresponsible-ai-use
6. ‘It could kill us all’: Why a 27-year-old researcher quit Anthropic https://indianexpress.com/article/trending/trending-in-india/jacob-coxon-anthropic-resignation-ai-superintelligence-warning-10869438/
7. AI మనందరినీ చంపేయొచ్చు.. Anthropicలో పనిచేసిన AI రీసెర్చర్… https://telugu.goodreturns.in/news/ai-could-become-uncontrollable-anthropic-researcher-drops-bombshell-after-resigning-057603.html
8. ‘I resigned from Anthropic’: Key researcher drops existential AI risk warning https://www.financialexpress.com/world-news/us-news/i-resigned-from-anthropic-key-researcher-drops-existential-ai-risk-warning-in-exit-post/4335040/
9. Anthropic researcher quits, warns AI could kill everyone https://www.yahoo.com/news/science/articles/anthropic-researcher-quits-warns-ai-064033707.html
10. Jacob Coxon alleged that the tech firm is ‘gambling with our lives’ https://www.ladbible.com/technology/ai-anthropic-researcher-resigns-jacob-coxon-warning-future-tech-712829-20260909