比人類更聰明的 AI 登場，我們準備好『安全地』迎接它了嗎？

您是否曾在咖啡廳與朋友聊天時有過這樣的想像：「如果我不必吩咐，AI 就能自動掌握我的工作進度、寄信給相關人員，甚至完美地交出成果，那該有多好？」或者「如果電影《鋼鐵人》中的『賈維斯』真的出現在現實世界，社會會變成什麼樣子？」

這些想像現在可能不再是遙不可及的幻想。近期在人工智慧業界，AGI (Artificial General Intelligence，通用人工智慧) 這個詞彙已成為所有討論的核心。今天，我們將以輕鬆易懂的方式為您介紹 Google DeepMind 和 OpenAI 等世界頂尖 AI 企業如何準備迎接這款「聰明的 AI」，以及我們該做些什麼。

為什麼這很重要？

我們現在使用的 ChatGPT 或 Google Gemini 雖然非常聰明，但本質上仍接近於「被動式」助手，只有在我們提問時才會給予回應。然而，AGI 則是完全不同的層次。

AGI 是指在大多數智力工作領域（而非單一特定領域）中，能發揮與人類對等或更高能力的人工智慧。Taking a responsible path to AGI — Google DeepMind Taking a responsible path to AGI – LifeboatNews: The Blog 簡單來說，這意味著我們每天所做的煩惱、計畫與執行過程，AI 都能自主判斷並完成。令人驚訝的是，專家預測這項技術可能會在幾年內成為現實。Taking a responsible path to AGI — Google DeepMind

這之所以重要，是因為它將徹底改變我們「解決問題的速度」。打個比方，如果過去是我們親自拿著工具挖土，現在我們只需要說明為什麼要挖土，AI 就會自動開著推土機來完成工作。過去可能需要數十年才能研發出的新藥，或是複雜的氣候變遷問題，未來可能在短短幾個月內奇蹟般地獲得解決。但相反地，如果這種難以控制的強大智能走向錯誤的方向，也可能對人類造成巨大威脅。

輕鬆理解：AGI 與「代理型」AI

如果 AGI 這個詞對您來說還很陌生，我們可以用日常生活中常見的兩種角色來做比喻。

1. 超越食譜的「萬能主廚」 (AGI)

如果說現在的 AI 是學習了特定食譜（數據），如「煮泡麵的方法」或「製作義大利麵的方法」的專業廚師，那麼 AGI 就像是 「僅憑冰箱剩餘食材，就能根據客人的心情與健康狀況製作出全新創意料理的萬能主廚」。因為它不僅是尋找既定答案，還能靈活執行人類幾乎所有的智力判斷。Taking a responsible path to AGI — Google DeepMind

2. 自動自發的「聰明代理人」 (代理能力)

讓 AGI 具備強大「手腳」的核心在於 「代理 (Agentic) 能力」。代理能力是指 AI 能自主理解目標、進行推理，並制定具體計畫轉化為行動的自主性質。Taking a responsible path to AGI — Google DeepMind

試著想像一下： 您對 AI 說：「幫我規劃這次的家族旅遊。」現在的 AI 頂多羅列美食清單和飯店資訊。但具備代理能力的 AI 會確認您的預算、即時比較機票價格並結帳、接收餐廳預約確認訊息，甚至將所有行程自動登錄到您的行事曆。您只需要說聲「謝謝」的時代即將到來。Taking a responsible path to AGI — Google DeepMInd

現況：「如果」不再是問題，問題在於「何時與如何」

過去我們爭論「是否可能出現像人類一樣的 AI」，現在業界的目光已轉移到 「何時會完成，以及如何安全管理以避免事故？」 Responsible AGI

對此，Google DeepMind 近期透過《邁向 AGI 的負責任路徑》報告，發布了一份類似 操作手冊 的內容。DeepMind’s AGI Safety Playbook and What It Means for the World 這份報告並非單純展示技術實力，而是包含了如何管理與控制這項強大「智力工具」以防失控的策略指南。DeepMind’s AGI Safety Playbook and What It Means for the World New Pathways to Responsible AGI: Safe AI… - Linkdood Technologies

未來會如何發展？漸進式變化與安全機制

專家們一致認為，AGI 不會某天早晨突然從天而降，而是會像細雨濕衣般，階段性地滲透進我們的生活。

1. 「讓社會有時間適應的『緩慢革命』」

OpenAI 強調，向 AGI 的過渡應是 「漸進式變化而非突然的衝擊」。Planning for AGI and beyond | OpenAI 因為過快的變化會給社會系統帶來混亂。當技術每進步一個階段，社會就能有時間完善相對應的法律與倫理。Planning for AGI and beyond | OpenAI 這就像剛拿到駕照的人不會直接上高速公路，而是在安全的停車場充分練習後，再慢慢駛向寬廣的道路。

2. 「超越承諾的『強力法規』」

許多人擔心，僅靠企業口頭承諾「我們會進行良善開發」是不夠的。像 Saeed Al Dhaheri 這樣的專家主張，為了負責任的 AI 治理（管理與控制體系），必須要有 「具強制力的政策與國際規章」，而非僅依賴企業的自主承諾。Taking a responsible path to AGI | Saeed Al Dhaheri

3. 「數學定義的『絕對鎖頭』」

在技術面上，也有呼聲要求建立 「數學上可證明的隔離與控制」 系統，以確保 AI 不會脫離人類控制。Google DeepMind… "Taking a responsible path to AGI"… We hope so? 這意味著不只是「相信它被做得安全」，而是從設計階段就鎖上「數學鎖頭」，讓系統在任何情況下都無法越界。Google DeepMind… "Taking a responsible path to AGI"… We hope so?

AI 的觀點：MindTickleBytes 的 AI 記者觀點

通往 AGI 的旅程就像是人類從未體驗過的未知開拓地。在 Google DeepMind 與 OpenAI 展現的華麗技術成就背後，隱藏著「責任感」這一沉重的課題。Taking a responsible path to AGI- Solega Blog Taking a responsible path to AGI – ONMINE 人工智慧究竟會成為人類最可靠的夥伴，還是成為我們無法控制的存在，最終取決於我們現在畫出的「安全設計圖」究竟如何。

參考資料

1. Taking a responsible path to AGI — Google DeepMind

2. [Planning for AGI and beyond

   OpenAI](https://openai.com/index/planning-for-agi-and-beyond/)

3. Taking a responsible path to AGI- Solega Blog
4. Taking a responsible path to AGI – ONMINE
5. Taking a responsible path to AGI – LifeboatNews: The Blog
6. Responsible AGI - LinkedIn

7. [AGI 1단계 ‘창조·언어 지능’ 실제 구현

   브런치](https://brunch.co.kr/@seawolf/35)

8. DeepMind’s AGI Safety Playbook and What It Means for the World

9. [Taking a responsible path to AGI

   Saeed Al Dhaheri - LinkedIn](https://www.linkedin.com/feed/update/urn:li:share:7313446026114228224)

10. Google DeepMind… “Taking a responsible path to AGI”… We hope so?
11. New Pathways to Responsible AGI: Safe AI… - Linkdood Technologies