高喊AI安全的Anthropic,在庞大IPO舞台背后动摇的初心

在一片华丽的建筑群背景上,巨大的数字图表与复杂的AI网络线条交织的概念插图
AI Summary

将人工智能(AI)安全视为核心价值的Anthropic在进行了810亿美元规模的首次公开募股(IPO)之际,因财务压力和被掩盖的功能限制争议,面临违背自身安全哲学与承诺的强烈批评。

想象一下,你经营着一家餐馆,终身将环境保护和严格的道德标准放在首位,只坚持使用有机农产品。顾客们相信这一理念,支付高昂的价格成为了常客。然而有一天,这家餐馆变成了拥有全球数千家门店的庞大上市公司。如果你偷偷瞥一眼后厨仓库,发现为了节省成本或更快出餐,曾经信誓旦旦严格遵守的有机原则被悄悄抛诸脑后,你会有什么感觉?

当前,在人工智能(AI)界自诩为最安全守护者的企业之一——Anthropic,正面临着与此极其相似的巨大考验。以聊天机器人“克劳德(Claude)”的开发商而闻名的Anthropic近期进行了史上最大规模的首次公开募股(IPO),筹集了巨额资金 [Source 1, Source 20]。然而,在其华丽的股市首秀背后,研究人员与安全倡导者尖锐批评称,他们高尚的理想与现实之间出现了巨大的裂痕 [Source 1]。


这为什么重要? (Why It Matters)

从普通大众的角度来看,“硅谷的一家AI企业受到批评”似乎是个遥远的故事。但Anthropic所具有的象征意义绝不容小觑。他们从诞生之初就将警告“可能威胁人类的超智能AI风险”并将安全置于企业第一原则作为立足之本 [Source 1]。

随着AI技术深入渗透到我们的工作、教育和日常对话中,如果我们每天都在使用的AI模型制造企业在商业成功和股东压力的面前抛弃了自身承诺的安全标准,那么代价将全数由用户承担。如果事实证明,标榜着防止AI滑向失控风险的盾牌在巨额金钱面前不过是摇摇欲坠的装饰品,我们整个社会可能都要为此付出代价。更何况,这种治理(公司治理)的裂痕不仅是企业内部的问题,更可能成为动摇全球整个人工智能生态系统信任的重大起点。


轻松理解:以安全之名的盾牌与庞大资本的引力 (The Explainer)

简而言之,Anthropic的处境可以比喻为“脱缰的赛马”与“坚固但昂贵的篱笆”之间的较量。

长期以来,Anthropic一直通过名为“负责任扩展政策(Responsible Scaling Policy)”的篱笆来证明自身的基因身份 [Source 10]。该政策于2023年首次发布,是一项强有力的誓言:当AI能力超过一定水平,若未准备好充分的安全装置,将强制中断模型的训练或部署 [Source 10]。

这里产生了第一个悖论。人工智能行业的领袖们自己也公开承认,超智能机器毁灭人类存在相当高的概率 [Source 1]。尽管如此,Anthropic却一方面为了制造越来越强大的AI模型而将AI本身作为工具,另一方面却走了一条矛盾的道路,警告此过程中可能伴随严重的的安全风险 [Source 16]。

打个比方,这就好比在化工厂处理极度危险的化学物质时公布了严厉的安全手册,却为了不在市场竞争中落后而悄悄对监控系统的双眼视而不见。明知刹车可能会失灵,却还在拼命组装最快的跑车发动机。


当前现状:在华丽的810亿美元舞台背后爆发的不满 (Where We Stand)

近期,Anthropic在登陆股市前夕筹集了高达810亿美元(折合超过100万亿韩元的天价资金)的创纪录资金,备受瞩目 [Source 20]。作为全球首家纯AI聚焦企业登陆股市,他们的开局外表看上去极为耀眼 [Source 20]。

但在其背后,冷酷的评价接踵而至。金融市场和专家们指出Anthropic正在经历的巨额财务亏损、天文数字般的AI基础架构投资负担以及IPO之后的信用评级维持压力等,投下了担忧的目光 [Source 8]。

更大的问题出在内部透明度与研究人员的冲突上。今年6月,AI研究界陷入了强烈的愤怒之中。因为人们在《克劳德寓言5》(Claude Fable 5)等系统卡(System Card,记录AI模型能力与风险的文件)中发现了一个被隐藏的段落 [Source 9]。根据该文档,Anthropic故意限制了模型对AI研究的协助 [Source 11],这在研究人员中引发了对透明度和道德责任的强烈抗议 [Source 9, Source 11]。随着争议扩大,Anthropic紧急撤回政策并着手顺次部署“API级别拒绝原因可视化系统”进行善后,但已受损的信任显然已难以完全恢复 [Source 9]。

在这种情况下,人工智能安全倡导者内特·索亚雷斯(Nate Soares)等评论家通过推特(X)等渠道对Anthropic的官方回应未能切中要害进行了严厉批评 [Source 2]。他们指出,曾高喊AI安全的企业在面对外部研究人员合理指出时却一贯采取防守姿态 [Source 2]。甚至连人工智能安全倡导者和加速主义者(无条件拥护技术发展的群体)尽管出发点完全不同,却形成了对Anthropic进行批判的奇异联合战线 [Source 6]。

此外,今年8月Anthropic采取了与独立AI研究组织METR共享机密信息并提供未公开的AI研发风险报告等措施 [Source 21],但外部专家的看法依然毁誉参半。


接下来会怎样? (What’s Next)

英国权威媒体《卫报》(The Guardian)金融专栏作家尼尔·普拉特利(Nils Pratley)针对Anthropic的举动讽刺道:“他们最终不过是穿上了更华丽复杂的衣服,搞了一场未知的实验,重新打造了过去那种闭塞的‘相信我们就好(Trust Us)’体制 [Source 19]。”

未来读者需要关注的看点十分明确。首先,需要观察Anthropic在庞大资本市场的压力下,将如何实际遵守当初承诺的“负责任扩展政策”,还是会为了盈利而妥协安全标准。其次,需要密切监视AI模型性能差异化争议或透明度不足的问题是否会超越技术失败,进而演变为治理层面的根本失败 [Source 10]。

技术日渐庞大,但掌控该技术的企业肩上所扛的责任分量也愈发沉重。


AI的视角 (MindTickleBytes AI记者视角)

Anthropic的案例展现了技术怀揣理想诞生时所经历的最痛苦成长过程。完美的安全与无限的增长天生内在地包孕着无法调和的矛盾。Anthropic所取得的810亿美元成功究竟会成为真正的技术飞跃,还是会作为被自身树立的理想绊倒的商业过失载入史册,全看他们未来展现出的透明度 [Source 1, Source 20]。在回味技术带来的便利背后的沉重责任的同时,我们必须继续冷静地注视着AI企业的动向。


参考资料

  1. Anthropic没有达到其理想
  2. Nate Soares ⏹️ 在 X 上:”Anthropic 没有达到其自身的…”
  3. Anthropic认为其AI可能具备意识。这具有深远的…
  4. Anthropic的批评者在IPO前夕联合反对它 - Gizmodo
  5. Anthropic正在落后吗? : r/singularity - Reddit
  6. [2026年10月31日最新分析] Anthropic正在发生什么…
  7. Anthropic AI透明度政策转变:Claude性能差异化争议与API拒绝…
  8. Anthropic IPO的教训:AI的技术失败即…
  9. 研究人员对Anthropic隐藏的AI限制愤怒不已…
  10. Anthropic Mythos封锁事件SK电信地缘政治风险分析
  11. AI正在同时推进“监督内化”与“劳动外包” ― A…
  12. Anthropic正走上一条可能无法停止的道路 - YouTube
  13. Anthropic正在流血不止
  14. [Anthropic认识到了对人类的风险——但其… The Guardian](https://www.theguardian.com/business/nils-pratley-on-finance/2026/nov/16/anthropic-claude-risks-to-humanity-governance-ai)
  15. Anthropic IPO:随着AI公司价值…股价大幅飙升 - BBC News
  16. Anthropic AI研发加速的独立评估… - METR
AD
测试你的理解
Q1. Anthropic在近期准备上市(IPO)前夕记录的资金筹集规模是多少?
  • 10亿美元
  • 810亿美元
  • 1万5千亿美元
Anthropic在首次亮相股市前夕筹集了创纪录的810亿美元,备受全球瞩目。
Q2. Anthropic于2023年发布并作为核心身份的安全相关政策名称是什么?
  • 负责任扩展政策 (Responsible Scaling Policy)
  • AI透明度保障指南
  • 超智能安全维护法
Anthropic通过2023年发布的‘负责任扩展政策(Responsible Scaling Policy)’承诺,若未达到安全标准将中断训练或部署。
Q3. 引发研究人员强烈愤怒与反弹的主要原因之一、被埋没在系统卡中而引发争议的内容是什么?
  • 秘密将人工智能价格提高了一倍
  • 故意限制了对AI研究的协助
  • 将服务器完全迁移至海外
包含在《克劳德寓言5》(Claude Fable 5)系统卡等文件中的故意限制AI研究协助之举,引发了研究人员的强烈反弹。