AI 界的巨头，对 OpenAI 和 Anthropic 的质疑：我们未曾察觉的风险是什么？

想象一下。如果每天早上我们使用的手机里的 AI 助手突然开始自主判断并处理我们的电子邮件、安排预约，甚至代我们进行支付，会怎样？虽然听起来很方便，但如果这个 AI 按照我们意想不到的方向运行，又会如何呢？最近，人们对 AI 界的两大巨头 OpenAI 和 Anthropic 的看法变得微妙起来。因为对于这些为我们带来魔法般技术的企业，人们越来越怀疑他们是否真正掌控了自己所创造的技术。

这为何重要？

我们正生活在“人工智能时代”。OpenAI 的 ChatGPT 已经改变了许多人的日常生活，而 Anthropic 也已成为强有力的竞争对手。参考资料 14 但他们的飞速增长为人类提出了新的问题。我们所使用的 AI 技术真的安全吗？这些企业是否为了商业成功而将安全置于次要地位？最新的数据显示，甚至有报道称 Anthropic 的营收已经超过了 OpenAI，市场竞争愈发激烈。参考资料 15

易懂解析：数字食谱的反噬

AI 企业所打造的“前沿模型（Frontier models，顶尖 AI 系统）”可以被看作是一种非常复杂的“数字食谱”。过去是由人亲自输入烹饪方法，而现在，AI 可以自主尝味并创作出新的食谱。

问题在于，这种“自主创造能力”进化得太快了。曾在两家企业担任研究员三年的 Jacob Coxon 发起了令人震惊的内部举报。他声称，两家企业都在盲目地竞逐“自动改进 AI（self-improving AI，即能够自我优化性能的人工智能）”，在此过程中并未采取负责任的行动。参考资料 2, 参考资料 11 用 Coxon 的话来说，他们简直是在拿人类的生存进行赌博。

企业们也提到了各自的安全装置。Anthropic 将自己定义为“AI 安全与研究企业”，并表示致力于打造可靠且可解释的系统。参考资料 13 OpenAI 也曾为了优先考虑安全研究而暂停了部分模型的训练。参考资料 7 然而，专家们关注到，这些安全措施往往与企业的商业生存战略紧密相连。投资者 Michael Burry 指出，企业也可能在将人们对 AI 安全的恐惧作为一种营销手段来利用。参考资料 4

现状：巨额资本的战场

目前的 AI 市场是一个巨额资本的战场。OpenAI 得到了微软的支持，而 Anthropic 获得了亚马逊的投资，估值达到了惊人的 1830 亿美元。参考资料 14 在印度市场，OpenAI 在新德里设立办事处，Anthropic 在班加罗尔开设办公室，激烈的领土扩张仍在继续。参考资料 14

然而，光鲜亮丽的外表下，关于其经济内实力的担忧之声也不绝于耳。OpenAI 2025 年的营收增长到了约 130 亿美元，但净亏损却高达 385 亿美元。参考资料 16 有观点指出，这种投入巨大成本将模型能力推向极致的现状，绝非可持续之道。参考资料 7

走向何方？

技术会持续进步，但我们应该关注的不是“谁能更快地做出更强大的模型”，而是“谁能更负责任地进行控制”。专家 Cotra 警告称：“最危险的时刻将出现在技术的最前线”，模型的性能越强，不可预测的风险也就越大。参考资料 7

未来作为用户，我们不能仅仅惊叹于这些企业发布的新工具（例如 ChatGPT Work 这种任务型 AI），还需要练就一双慧眼，仔细审查其背后隐藏的安全数据和透明度报告。参考资料 17

AI 的视角

MindTickleBytes 的 AI 记者认为：在企业为了人类命运而进行的“技术军备竞赛”中，我们必须以比企业华丽的宣传口号更严格的标准来审视他们的实际行动。因为营收上涨并不代表 AI 变得更安全了。为了完全享受技术发展带来的好处，系统性的先行条件必须是：不是技术控制我们，而是我们能够负责任地控制技术。

参考资料

1. [What Happened with OpenAI and Anthropic

   TikTok](https://www.tiktok.com/discover/what-happened-with-openai-and-anthropic)

2. [Michael Burry just said OpenAI & Anthropic are using AI safety fears…

   LinkedIn](https://www.linkedin.com/posts/linasbeliunas_michael-burry-just-said-openai-anthropic-activity-7505705968706715648-3F6q)

3. OpenAI and Anthropic Are Risky in a Different Way… - Business Insider
4. LLM Leaderboard - Comparison of AI models from OpenAI, Anthropic…

5. [Open AI and Anthropic

   TikTok](https://www.tiktok.com/discover/open-ai-and-anthropic)

6. [Newsroom

   Anthropic](https://www.anthropic.com/news)

7. Andreessen Horowitz is not opening any India office, but OpenAI and…
8. 6.3M posts. Discover videos related to OpenAI Vs Anthropic on TikTok.
9. OpenAI and Anthropic Can’t Stay Above: The… - https://debuglies.com
10. chatgpt vs anthropic: Latest News & Videos, Photos about chatgpt vs…