AI技术向所有人公开是否危险？Anthropic CEO发出警告

试想一下，如果我们每天使用的智能手机语音助手，突然开始自主分析海量信息，并同时试图找出我们家中或工作单位安防系统中数千个漏洞，会发生什么？技术的进步在为日常生活提供便利的同时，有时也会成为一股难以驾驭的巨大力量。近期，作为人工智能（AI）行业最热门话题之一的“开源AI”，遭到了AI初创公司Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）的严厉警告，在业界引发了轩然大波。

为什么这很重要？

AI已深入我们的日常生活，其能力早已超越了简单的问答范畴。然而，随着AI智能水平的提升，其被恶意使用或导致非预期事故的风险也随之增加。Anthropic的CEO认为，如果AI模型以“开源”（即以公开模型架构或代码供任何人查看和修改的形式）发布，开发商将无法实时监控或控制其滥用，这是一个极其严重的问题参考 1, 参考 2。如果曾协助我们的AI被某人恶意利用，变成威胁安全的工具，谁来承担责任？这场争论已不仅仅是企业间的观点分歧，更提出了一个至关重要的课题：我们该如何设计未来的技术安全防线？

易懂的解释

用一个类比来解释为什么“开源AI”可能具有危险性：

假设有一个制造强效疫苗的绝密配方。如果仅将该配方提供给可信的专业医生，并在他们诊治时使用，那么一旦发现副作用，就可以立即停止使用并追究相关医生的责任。但如果把这个配方在互联网上完全“开源”，让全世界任何人都能看到，会发生什么？当有人利用这一配方制造有害病毒，或以未经检验的危险方式滥用时，由于信息已经广泛传播，几乎不可能再收回。

达里奥·阿莫代伊CEO所警告的正是这一点。他指出，开源AI正走向一条“非常危险的道路”参考 1。因为强大的AI模型一旦完全向世界公开，开发商将失去对模型使用情况的追踪权限，也失去了在问题发生时立即停止其功能的权力参考 2。

当然，反对意见也不在少数。一些专家质疑，Anthropic等大型AI企业是否以“安全”为借口，试图阻碍开源技术的发展，以保护自身的市场竞争力参考 4。换言之，有人指出开源AI实际上并未构成如此大的威胁，这仅仅是一种转移公众注意力的“红鲱鱼”（red herring，干扰视线的障眼法）参考 3。

现状如何

AI的风险已不再是虚构的故事，而是正在变成现实。Anthropic近期警告称，其模型能自行发现数万个软件漏洞，这表明AI随时可能成为网络安全的决定性威胁参考 8。事实上，Anthropic甚至遭遇过美国政府下令停止其服务的情况，理由是其强大的AI模型“Claude Fable 5”和“Claude Mythos 5”存在国家安全方面的担忧参考 13。

在这种情况下，达里奥·阿莫代伊CEO甚至反思了自己的立场，称“虽然我也是一家AI企业的CEO，但最危险的存在恰恰就是像我们这样的AI企业”参考 5。正是由于对这种风险的认知，Anthropic提议全球应设立“暂停期”，暂时停止AI开发，以深入讨论技术安全性参考 11, 参考 14。

未来展望

未来，我们将不得不在AI技术的“创新”与“安全”之间进行无休止的走钢丝。Anthropic强调，AI技术发展过快，存在人类失去控制的风险，需要全行业通力合作构建安全的开发环境参考 14。考虑到AI的发展还可能对就业市场带来痛苦的变革，政策制定者与企业如何设计出确保技术安全的“护栏”（guardrails），将成为未来最核心的看点参考 10, 参考 12。

参考资料

1. Coin Bureau on X: “🚨ANTHROPIC CEO: OPEN SOURCE AI IS GETTING DANGEROUS…”

2. [Anthropic Co-Founder Warns of Irreversible Risks in Open-Source AI Development

   KuCoin](https://www.kucoin.com/news/flash/anthropic-co-founder-warns-of-irreversible-risks-in-open-source-ai-development)

3. Anthropic CEO Says Open-Source AI Doesn’t Matter Like You Think—Developers Strongly Disagree
4. Why Anthropic Freaked Out the AI Industry This Week - Business Insider

5. [Anthropic Thinks Its Own Success Is Key to Making AI Safe

   WIRED](https://www.wired.com/story/anthropic-thinks-ai-can-only-be-safe-under-its-control/)

6. Anthropic CEO warns of cyber ‘moment of danger’ as AI exposes thousands of vulnerabilities
7. Anthropic CEO Dario Amodei warns AI may see ‘painful’ jobs …
8. Anthropic says the world should have option to ‘pause’ on AI
9. Anthropic CEO warns that without guardrails, AI could be on …
10. Anthropic’s safety warnings may have just backfired — the government has pulled the plug on its most powerful AI
11. Anthropic urges industry coordination as AI risks grow with …