超越人类的 AI 时代即将到来，我们准备好“安全”地迎接它了吗？

您是否曾在咖啡馆与朋友聊天时有过这样的想象：“如果我不必吩咐，AI 就能自动理解我的工作，给需要的人发邮件，甚至完美地交付成果，那该有多好？”或者，“电影《钢铁侠》里的‘贾维斯’如果真的出现，世界会变成什么样？”

这些想象或许已不再是遥不可及的幻想。近期，在人工智能领域，AGI（Artificial General Intelligence，通用人工智能）这一词汇已成为所有讨论的中心。今天，我们将为您通俗易懂地介绍 Google DeepMind 和 OpenAI 等世界顶级 AI 企业是如何准备这种“超级智能 AI”的，以及我们又该做些什么。

为什么这很重要？

我们现在使用的 ChatGPT 或 Google Gemini 虽然非常聪明，但仍更接近于需要我们提问才会回答的“被动式”助手。然而，AGI 则完全不同。

AGI 是指在大多数智力任务中能发挥出与人类相当或更高水平的人工智能，而非仅仅局限于特定领域。Taking a responsible path to AGI — Google DeepMind Taking a responsible path to AGI – LifeboatNews: The Blog 简单来说，这意味着我们每天进行的思考、计划和执行过程，AI 都能自主判断并完成。令人惊讶的是，专家们预测这类技术可能在数年内就会成为现实。Taking a responsible path to AGI — Google DeepMind

这之所以重要，是因为它将彻底改变我们“解决问题速度”。打个比方，如果说以前是我们亲手拿着工具挖地，现在则是只要解释为什么要挖地，AI 就会自动开着推土机来完成工作。原本需要数十年的新药研发或复杂的决策问题，可能在短短几个月内就迎刃而解。但反过来说，如果这种难以控制的强大智能走向错误的方向，也可能对人类构成巨大威胁。

轻松理解：AGI 与“智能体”AI

如果您对 AGI 这个词还感到陌生，我们可以用日常生活中常见的两种角色来做类比：

1. 超越食谱的“万能厨师” (AGI)

如果说现在的 AI 是非常擅长学习“煮拉面”或“做意面”等特定食谱（数据）的专业厨师，那么 AGI 就相当于“仅看冰箱里剩下的食材，就能根据客人的心情和健康状态创作出完美新菜肴的万能厨师”。因为它不是在寻找固定答案，而是能灵活地进行几乎所有人类水平的智力判断。Taking a responsible path to AGI — Google DeepMind

2. 自动搞定的“聪明代办” (智能体能力)

AGI 拥有强大“手脚”的关键在于“智能体（Agentic）能力”。智能体是指 AI 自主理解目标、进行推理、制定具体计划并付诸行动的自主属性。Taking a responsible path to AGI — Google DeepMind

请试着想象一下： 您对 AI 说“帮我制定这次家庭度假计划”。现在的 AI 只会列出餐厅清单和酒店信息。但具备智能体能力的 AI 会核对您的预算，实时对比并支付机票，接收餐厅预约确认信息，并将行程全部注册到您的日历中——这一切都是“自主执行”。您只需说一句“谢谢”的时代即将到来。Taking a responsible path to AGI — Google DeepMInd

现状：“是否可能”已变为“何时及如何”

过去人们还在争论“类人 AI 是否可能实现”，而现在行业的焦点已完全转变为“何时能完成，以及如何安全管理而不出事故？” Responsible AGI

为此，Google DeepMind 近期通过名为《通往 AGI 的责任路径》的报告，发布了一套运营手册。DeepMind’s AGI Safety Playbook and What It Means for the World 这份报告并非单纯炫耀技术实力，而是包含了一套战略指南，旨在说明如何管理和控制这一强大的“智力工具”，防止其失控。DeepMind’s AGI Safety Playbook and What It Means for the World New Pathways to Responsible AGI: Safe AI… - Linkdood Technologies

未来会怎样？渐进式变化与安全装置

专家们一致认为，AGI 不会在某天清晨突然降临，而是会像细雨润物般阶段性地渗入我们的生活。

1. “给社会适应时间的‘缓慢革命’”

OpenAI 强调，向 AGI 的过渡应当是“渐进式的变化，而非突然的冲击”。Planning for AGI and beyond | OpenAI 因为过快的变化可能会给社会系统带来混乱。每当技术进步一个阶段，社会就有时间去完善相应的法律和伦理。 Planning for AGI and beyond | OpenAI 这道理就像刚拿到驾照的人不会直接上高速公路，而是在安全的停车场充分练习后，再慢慢驶向宽阔的马路。

2. “超越承诺的‘强力法规’”

也有人担心，仅仅依靠企业口头承诺“我们会向善开发”是不够的。专家 Saeed Al Dhaheri 主张，为了实现负责任的 AI 治理（管理与控制体系），绝对需要“具有强制性的政策和国际监管”，而非企业的自主承诺。Taking a responsible path to AGI | Saeed Al Dhaheri

3. “数学锁定的‘绝对门锁’”

从技术角度看，也有声音呼吁必须构建“数学上可证明的隔离与控制”系统，以确保 AI 不脱离人类控制。Google DeepMind… "Taking a responsible path to AGI"… We hope so? 这意味着不能仅仅“相信它是安全的”，而必须在设计阶段就套上“数学锁”，使其在任何情况下都无法越界。Google DeepMind… "Taking a responsible path to AGI"… We hope so?

AI 的视角：MindTickleBytes AI 记者的观察

通往 AGI 的旅程就像是人类从未涉足的未知荒野。在 Google DeepMind 和 OpenAI 展现的华丽技术成就背后，横亘着名为“责任”的沉重课题。Taking a responsible path to AGI- Solega Blog Taking a responsible path to AGI – ONMINE 人工智能是会成为人类最可靠的伙伴，还是成为我们无法控制的存在，最终取决于我们现在描绘出怎样的“安全蓝图”。

参考资料

1. Taking a responsible path to AGI — Google DeepMind

2. [Planning for AGI and beyond

   OpenAI](https://openai.com/index/planning-for-agi-and-beyond/)

3. Taking a responsible path to AGI- Solega Blog
4. Taking a responsible path to AGI – ONMINE
5. Taking a responsible path to AGI – LifeboatNews: The Blog
6. Responsible AGI - LinkedIn

7. [AGI 1단계 ‘창조·언어 지능’ 실제 구현

   브런치](https://brunch.co.kr/@seawolf/35)

8. DeepMind’s AGI Safety Playbook and What It Means for the World

9. [Taking a responsible path to AGI

   Saeed Al Dhaheri - LinkedIn](https://www.linkedin.com/feed/update/urn:li:share:7313446026114228224)

10. Google DeepMind… “Taking a responsible path to AGI”… We hope so?
11. New Pathways to Responsible AGI: Safe AI… - Linkdood Technologies