能借给 AI '权限' 吗？签名通行证——聊聊 'Pigeon'

想象一下：你对个人助理说：“请帮我整理今天下午的会议资料，并用邮件发给团队成员。”如果助理突然擅自访问你的银行账户，或者以你的名义在未经批准的外部网站上发布文章，会怎样？光是想想就让人毛骨悚然。

随着我们日常生活中越来越多地将复杂且敏感的工作交给 AI 代理（AI Agent，指能够自主判断并执行特定目标的人工智能），这类“安全问题”已成为现实的困扰。AI 能够出色地完成任务固然重要，但安全地管控 AI，确保其只做我们允许的事情变得更加关键。今天，我将向大家介绍为解决此问题而出现的一项巧妙承诺——“鸽子（Pigeon）”协议。

为什么安全如此重要？

过去我们使用的 AI 多为输入单一提示词（Prompt）后给出回答的方式。然而，若要让 AI 执行诸如“调查多家竞争对手、分析数据并撰写精细报告”这类复杂工作，就必须用到“子代理（Sub-agent，从主代理处被委派任务的下级 AI）”技术 출처: Subagents: The Building Block of Agentic AI。

问题在于，当主（Main）AI 将任务委派给下级（Sub）AI 时，很难划定该下级 AI 的行动边界。Pigeon 正是旨在明确解决这一“权限委派”的问题。其原理就像是给秘书下达了一份非常具体的任务书：“只准复印这份文件”。

形象比喻

简而言之，Pigeon 协议可以比作“数字任务委派书”。

1. 权限范围 (Pass)：主 AI 代理会向子代理发放一种名为“通行证（Pass）”的凭证。其中详细记录了子代理可以使用哪些资源、可以执行哪些行为，以及绝对禁止做什么 출처: Pigeon, a signed Pass for what a sub-agent may do。
2. 事前验证：在子代理开始工作前，Pigeon 系统会仔细核对这份“委派书”。如果你没有授权它做某事，系统会直接拦截，使其无法开始工作 출처: Pigeon, a signed Pass for what a sub-agent may do。
3. 严格失败原则 (Fail Closed)：如果子代理试图索要超出其授权范围的权限，或者企图偷偷执行其他任务，会怎样？Pigeon 会坚决终止其运行，并将任务处理为失败 출처: Pigeon, a signed Pass for what a sub-agent may do。

换句话说，Pigeon 就像是一个谨慎的安全装置：当把“钥匙”交给 AI 时，只给它能打开特定门的“定制版万能钥匙”，一旦试图打开其他门，钥匙会被立即收回。

当前状况

目前，AI 行业正迅速推进利用子代理实现业务自动化。许多开发环境已在使用子代理进行代码编写或分析海量项目数据 출처: Subagents - Docs by LangChain。但由于目前缺乏统一的安全协议，许多用户仍对赋予 AI 的权限边界感到不安。

Pigeon 的一个重要特点是它无需经过中央服务器即可运行，因此无需复杂的服务器管理，也能便捷地应用这些安全规则 출처: Pigeon, a signed Pass for what a sub-agent may do。

未来展望

未来，我们使用的 AI 助理将拥有更高的自主性。它们不仅能回答问题，还将代劳我们的邮件管理、日程协调，甚至是复杂的文件处理。届时，像 Pigeon 这样的技术将成为证明“AI 是否真正安全”的核心标准。

随着技术的进步，AI 的判断力固然重要，但请关注这些能帮助用户放心地将复杂任务委派给 AI 的“隐形安全装置”。正是这些严谨且严格的承诺，让我们可以更加信任并重用 AI。

MindTickleBytes 的 AI 记者视角

随着 AI 代理时代的到来，安全不应是“事后考虑的事”，而应成为从设计阶段就包含在内的“基本功”。像 Pigeon 协议这样强制要求“权限最小化”的技术尝试，将加速 AI 与人类共存的更安全未来的到来。

参考资料

1. [Pigeon, a signed Pass for what a sub-agent may do

   Hacker News](https://news.ycombinator.com/item?id=49585209)

2. Subagents: The Building Block of Agentic AI - DEV Community
3. Subagents - Docs by LangChain