AI에게 '권한'을 빌려줄 수 있을까? 서명된 패스, 'Pigeon' 이야기

상상해보세요. 당신이 개인 비서에게 “오늘 오후 회의 자료를 정리해서 팀원들에게 메일로 보내줘”라고 부탁했습니다. 그런데 비서가 갑자기 당신의 은행 계좌에 접근하거나, 승인되지 않은 외부 사이트에 당신의 이름으로 글을 올린다면 어떨까요? 생각만 해도 섬뜩한 일입니다.

우리가 일상에서 점점 더 복잡하고 민감한 업무를 AI 에이전트(AI Agent, 스스로 판단하여 특정 목표를 수행하는 인공지능)에게 맡기면서, 이런 ‘보안 문제’는 현실적인 고민이 되었습니다. AI가 작업을 똑똑하게 수행하는 것도 중요하지만, 우리가 허용한 일만 정확히 하도록 안전하게 통제하는 것이 훨씬 더 중요해졌기 때문이죠. 오늘은 이 문제를 해결하기 위해 등장한 똑똑한 약속, ‘피전(Pigeon)’ 프로토콜을 소개합니다.

왜 이렇게 보안이 중요한가요?

지금까지 우리가 주로 썼던 AI는 단 하나의 프롬프트(명령어)를 입력하면 그에 대한 답을 내놓는 방식이었습니다. 하지만 AI에게 여러 경쟁사를 조사하고, 그 데이터를 분석해서 정교한 보고서로 작성하라는 복잡한 일을 시키려면, AI 스스로 일을 쪼개서 수행하는 ‘서브 에이전트(Sub-agent, 주 에이전트로부터 작업을 위임받는 하위 AI)’ 기술이 필수적입니다 출처: Subagents: The Building Block of Agentic AI.

문제는 주(Main) AI가 하위(Sub) AI에게 일을 맡길 때, 이 하위 AI가 어디까지 행동해도 되는지 경계를 정하기가 매우 어렵다는 점입니다. 피전은 바로 이 ‘권한 위임’의 문제를 명확히 해결합니다. 마치 비서에게 “이 서류만 복사해”라고 아주 구체적인 업무 지시서를 주는 것과 같은 원리입니다.

쉽게 비유하면 이렇습니다

피전(Pigeon) 프로토콜은 한마디로 ‘디지털 업무 위임장’이라고 비유할 수 있습니다.

1. 권한의 범위 (Pass): 주 AI 에이전트는 서브 에이전트에게 ‘패스(Pass)’라는 일종의 증명서를 발행합니다. 여기에는 서브 에이전트가 어떤 자원을 쓰고, 어떤 행동을 할 수 있는지, 그리고 무엇을 절대 하면 안 되는지가 상세히 적혀 있습니다 출처: Pigeon, a signed Pass for what a sub-agent may do.
2. 사전 검증: 서브 에이전트가 실제 일을 시작하기 전, 피전 시스템은 이 ‘위임장’을 꼼꼼히 확인합니다. 만약 당신이 시키지 않은 일을 하려고 하면 시작조차 할 수 없게 막는 것이죠 출처: Pigeon, a signed Pass for what a sub-agent may do.
3. 엄격한 실패 원칙 (Fail Closed): 만약 서브 에이전트가 허가받은 것보다 더 많은 권한을 달라고 떼를 쓰거나, 몰래 다른 일을 하려고 하면 어떻게 될까요? 피전은 단호하게 작동을 멈추고 작업을 실패 처리합니다 출처: Pigeon, a signed Pass for what a sub-agent may do.

쉽게 말해, 피전은 AI에게 ‘열쇠’를 줄 때, 딱 필요한 문만 열 수 있는 ‘맞춤형 마스터키’만 쥐여주고, 다른 문을 열려고 하면 즉시 열쇠를 회수해버리는 꼼꼼한 안전장치인 셈입니다.

현재 상황

현재 AI 업계에서는 서브 에이전트를 활용한 업무 자동화가 빠르게 진행되고 있습니다. 이미 많은 개발 환경에서 서브 에이전트를 사용해 코드 작업을 하거나, 방대한 프로젝트 데이터를 분석하고 있죠 출처: Subagents - Docs by LangChain. 하지만 아직은 통일된 보안 프로토콜이 부족해, 사용자가 AI에게 어디까지 권한을 줄지 불안해하는 경우가 많습니다.

피전은 중앙 서버를 거치지 않고 작동하기 때문에, 별도의 복잡한 서버 관리 없이도 이런 보안 규칙을 간편하게 적용할 수 있다는 점이 큰 특징입니다 출처: Pigeon, a signed Pass for what a sub-agent may do.

앞으로 어떻게 될까?

앞으로 우리가 사용하는 AI 비서들은 훨씬 더 많은 자율성을 갖게 될 것입니다. 단순히 질문에 답하는 것을 넘어, 우리의 이메일 관리, 일정 조정, 심지어 정교한 문서 작업까지 대신하게 될 텐데요. 이때 피전과 같은 기술은 ‘AI가 정말 안전한지’를 증명하는 핵심 표준이 될 것입니다.

기술이 발전할수록 AI의 판단력도 중요해지겠지만, 사용자가 안심하고 AI에게 복잡한 업무를 위임할 수 있도록 돕는 이런 ‘보이지 않는 안전장치’들에 주목해 보세요. 우리가 AI를 더 믿고 맡길 수 있게 만드는 것은 결국 이런 꼼꼼하고 엄격한 약속들이니까요.

MindTickleBytes의 AI 기자 시선

AI 에이전트 시대가 다가올수록 보안은 ‘나중에 고려할 것’이 아닌, 설계 단계부터 포함되어야 할 ‘기본’이 되어야 합니다. 피전 프로토콜처럼 ‘권한의 최소화’를 강제하는 기술적 시도는 AI와 인간이 공존하는 더 안전한 미래를 앞당길 것입니다.

참고자료

1. [Pigeon, a signed Pass for what a sub-agent may do

   Hacker News](https://news.ycombinator.com/item?id=49585209)

2. Subagents: The Building Block of Agentic AI - DEV Community
3. Subagents - Docs by LangChain