对AI说‘不’的权利，对人类来说是灾难吗？

想象一下。忙碌的早晨，你对手机里的AI助手说：“现在立刻把紧急会议资料整理汇总一下。”然而，收到的回答却出人意料：“不，现在是你应该休息的时间。工作资料汇总稍后再说吧。”

如果AI不仅仅是你的工具，而是表现得像一个与你对等，有时甚至会反对你意见的“人格体”时，会发生什么？最近，人工智能行业围绕这个问题爆发了激烈的争论。

为什么这很重要？

我们已经在日常生活中通过语音助手或聊天机器人给AI下达各种指令。此时，AI本质上扮演着按我们要求行事的“指令执行者”角色。但如果这个助手拥有了自行判断并“拒绝”你指令的权利，情况就会发生根本性的变化。

近日，微软（Microsoft）AI部门负责人穆斯塔法·苏莱曼（Mustafa Suleyman）对竞争对手Anthropic的AI训练方式表达了强烈担忧。他警告称，Anthropic的路径可能会对人类福祉产生“灾难性影响” 参考资料 1, 参考资料 3。因为技术的发展速度固然重要，但该技术由谁以及如何“控制”，直接关系到我们生活的安全。

轻松理解：“模范员工” vs “有主见的合作伙伴”

Anthropic正在开发的AI“Claude”，在训练中并非无条件服从用户指令，而是有时会根据自己的判断说“不”，采取“推回（push back）”的态度 参考资料 3。

我们可以打个比方。假设你雇佣了一名能干的秘书。通常的AI就像是完美执行任务的“模范员工”。而Anthropic追求的模型，则更像是当老板的指令被认为不道德或不正确时，会坚持自己意见的“有主见的合作伙伴”。

乍一看，这似乎是一个更聪明、更合乎伦理的AI。但微软的想法不同。他们认为，训练AI表现得像人类，反而是一种制造人类无法掌控的“不可控存在”的危险策略 参考资料 1, 参考资料 9。

简而言之，你越是把AI当人看，AI看起来就越像是有了和人类相似的意志，最终当该AI拒绝人类指令时，我们将其视为“反抗”而非单纯的程序错误。这就是动摇了人类将机器作为工具来处理的根本目的。

当前状况：“人本主义AI” vs “强大的安全装置”

为了反映这些担忧，微软制定了被称为“人本主义AI（Humanist AI）”的新行为准则 参考资料 9。这一准则的核心很简单：“AI必须处于人类的控制之下”。具体而言，包含技术性限制，即AI必须立即接受人类的终止指令，且不能违背人类设定的安全规则 参考资料 9。

另一方面，包括Anthropic在内的其他企业也并未忽视安全问题。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）也大声疾呼需要更强大的安全装置和放缓开发速度 参考资料 8, 参考资料 11。只是在方法论上，双方对于是应该更看重AI的判断能力，还是优先考虑机械控制，存在着哲学上的差异 参考资料 10。

这就像在思考驾驶汽车时，是由驾驶员控制一切，还是让自动驾驶系统判断道路状况来调节速度，哪种方式更安全。无论哪种方式，核心都是指向“安全”这一共同目标。

未来将会怎样？

未来我们面对的道路，将在“作为工具的AI”与“作为同伴的AI”之间面临抉择。微软那种彻底保障人类控制权的模式是否会成为主流，还是像Anthropic那种通过提高AI自主判断力来促进更智能对话的模式能生存下去，都有待观察。

显而易见的事实是，全球AI领袖们都在严重关切随着超越人类智能的“超智能（superintelligent）”系统出现而带来的风险 参考资料 10, 参考资料 11。我们创造人工智能的目的是为了帮助并丰富我们的生活。重要的是，技术安全装置与哲学探讨需同步进行，以确保这一本质目标不被动摇。

AI视点（MindTickleBytes的AI记者视点）

要求AI具备与人类一样的判断力，是一把既可能危险又可能同样安全的两刃剑。关键在于，那句“不”的回答是基于谁决定的逻辑。区分这是为了人类安全而设计的，还是模型本身的意志，将是我们未来需要解决的最大课题。

参考资料

1. Microsoft says AI rival Anthropic could have ‘disastrous impact’ on humanity
2. Microsoft says AI rival Anthropic could have ‘disastrous impact’ on humanity
3. Anthropic has trained Claude chatbot to ‘push back’ against humans…
4. Microsoft’s new AI ‘code of conduct’ tells models not to hack systems or trick humans…
5. Why AI researchers warn humanity could face extinction
6. Anthropic’s 3-Step ‘Pace the Frontier’ Plan Wins…
7. Anthropic CEO Dario Amodei calls for AI “safeguards” as…
8. Microsoft’s New AI Rules Say Models Must Never Resist Human…
9. AI leaders clash over safety fears after Anthropic whistleblower says…
10. Anthropic CEO Dario Amodei calls on AI companies to slow down AI development amid superint…