能將「權限」借給 AI 嗎？談談簽名通行證「Pigeon」

想像一下，你請私人秘書「把今天下午的會議資料整理好寄給團隊成員」。但如果秘書突然存取了你的銀行帳戶，或是以你的名義在未經授權的外部網站發文，那會如何？光想就令人毛骨悚然。

隨著我們在日常生活中越來越多地將複雜且敏感的業務交給 AI 代理（AI Agent，指能自行判斷並執行特定目標的人工智慧），這種「安全性問題」已成為現實考量。因為 AI 不僅需要聰明地執行任務，更重要的是我們必須安全地控管它們，確保它們精確地只做我們允許的事情。今天，我們來介紹為了解決此問題而出現的聰明協定——「Pigeon」。

為什麼安全如此重要？

我們過去使用的 AI，主要是輸入單一提示（Prompt）後給出回應的方式。然而，若要讓 AI 調查多家競爭對手、分析數據並撰寫精緻的報告，就必須使用讓 AI 自行拆解任務執行的「子代理（Sub-agent，從主代理接收委託任務的下級 AI）」技術 出處: Subagents: The Building Block of Agentic AI。

問題在於，當主（Main）AI 將工作交給下級（Sub）AI 時，很難劃定這個下級 AI 的行動邊界。Pigeon 正是為了明確解決這種「權限委託」問題而生。這就像給秘書一份非常具體的任務清單，指示「只准影印這份文件」一樣的原則。

簡單比喻

Pigeon 協議簡而言之，可以比喻為「數位業務委託書」。

1. 權限範圍（Pass）：主 AI 代理會向子代理核發一種稱為「Pass」的證書。上面詳細記載了子代理可以使用哪些資源、能執行什麼行為，以及絕對禁止做什麼 出處: Pigeon, a signed Pass for what a sub-agent may do。
2. 事前驗證：在子代理開始實際工作前，Pigeon 系統會嚴格檢查這份「委託書」。如果你試圖做未經指示的工作，系統會直接阻擋，連開始的機會都沒有 出處: Pigeon, a signed Pass for what a sub-agent may do。
3. 嚴格失敗原則（Fail Closed）：如果子代理試圖索取超出許可的權限，或者私下想做其他事情呢？Pigeon 會斷然停止運作，將任務處理為失敗 出處: Pigeon, a signed Pass for what a sub-agent may do。

簡單來說，Pigeon 在賦予 AI 「鑰匙」時，只會給它能打開必要房門的「客製化萬能鑰匙」，一旦試圖打開其他房門，就會立即收回鑰匙，是一項嚴謹的安全機制。

現況

目前 AI 業界正快速推動利用子代理進行業務自動化。許多開發環境已在使用子代理處理程式碼工作或分析龐大的專案數據 出處: Subagents - Docs by LangChain。然而，目前仍缺乏統一的安全協定，用戶對於賦予 AI 多少權限往往感到不安。

Pigeon 的一大特色是它不需經過中央伺服器運作，因此無需額外且複雜的伺服器管理，就能輕鬆應用這些安全規則 出處: Pigeon, a signed Pass for what a sub-agent may do。

未來展望

未來我們使用的 AI 秘書將擁有更高的自主權。它們將不僅限於回答問題，還能代理我們的郵件管理、行程調整，甚至複雜的文件處理。屆時，像 Pigeon 這類技術將成為證明「AI 是否安全」的核心標準。

隨著技術發展，AI 的判斷力固然重要，但也請關注這些能幫助用戶安心將複雜業務委託給 AI 的「隱形安全裝置」。畢竟，讓我們更信任並委託 AI 的，正是這些細緻且嚴格的約定。

MindTickleBytes AI 記者觀點

隨著 AI 代理時代來臨，安全性不應是「事後才考慮」的事，而應成為設計階段就包含的「基本要素」。像 Pigeon 協議這樣強制實施「權限最小化」的技術嘗試，將加速人類與 AI 共存的更安全未來。

參考資料

1. [Pigeon, a signed Pass for what a sub-agent may do

   Hacker News](https://news.ycombinator.com/item?id=49585209)

2. Subagents: The Building Block of Agentic AI - DEV Community
3. Subagents - Docs by LangChain