AI가 코드를 짜기 전에 '계획서'부터 쓴다고? — AI와 안전하게 협업하는 법

상상해보세요. 여러분이 인테리어 공사를 맡겼는데, 목수가 말도 없이 벽을 다 허물고 나서야 “이제 어떻게 고칠까요?”라고 묻는다면 어떨까요? 무척 당황스럽고 화가 날 것입니다. 우리가 사용하는 AI 코딩 도구들도 마찬가지입니다. AI에게 “이 기능을 만들어줘”라고 부탁했는데, AI가 앞뒤 재지 않고 코드를 엉망으로 고쳐놓는다면 큰일이겠죠.

최근 AI 기술이 발전하면서, AI가 직접 코드를 작성하고 수정하는 ‘에이전트(Agent, 스스로 판단하여 특정 업무를 수행하는 AI)’ 시대가 열렸습니다. 그런데 이 에이전트가 실수 없이 우리 의도대로 움직이게 하려면 어떻게 해야 할까요? 오늘은 AI가 코드를 고치기 전에 반드시 ‘계획서’부터 쓰게 만드는, 이른바 ‘플랜 모드(Plan Mode)’라는 안전장치에 대해 이야기해보려 합니다.

이게 왜 중요한가요?

일상에서 AI를 사용하는 사람들에게 이는 매우 중요한 문제입니다. 만약 AI가 내 의도와 다르게 웹사이트의 결제 기능을 건드린다거나, 시스템 운영에 필수적인 설정 파일을 실수로 삭제해버린다면 업무는 즉시 마비될 것입니다.

AI가 사람처럼 스스로 생각하고 행동하는 것처럼 보이지만, 사실 AI는 우리가 처한 상황의 ‘맥락(Context)’을 100% 이해하지 못할 때가 많습니다. 따라서 AI가 코드를 수정하기 전에 사람이 미리 계획을 확인하고 “그래, 이 방향으로 고쳐봐”라고 승인해주는 과정이 필수적입니다. 이를 통해 우리는 AI가 저지를 수 있는 치명적인 실수를 미리 방지할 수 있습니다.

쉽게 이해하기: ‘플랜 모드’는 설계도 검토 과정

‘플랜 모드’를 쉽게 비유하면 건축 공사를 시작하기 전 ‘설계도 검토 과정’과 같습니다.

1. 탐색 단계: AI 에이전트가 여러분의 컴퓨터(코드베이스)를 읽고 무엇이 필요한지 조사합니다. 하지만 이때는 오직 ‘읽기(Read-only)’만 가능합니다. 파일을 직접 수정하거나 지우는 권한은 전혀 없습니다. 출처: PlanMode: Make ClaudeCodeThink BeforeItTouches…
2. 계획 단계: AI는 자신이 무엇을 바꿀지 상세한 계획서를 작성합니다. 마치 건축가가 공사를 시작하기 전 설계도를 보여주는 것과 같습니다.
3. 승인 단계: 여러분은 이 계획서를 보고 마음에 들면 ‘승인’ 버튼을 누릅니다. 승인이 떨어져야만 AI는 비로소 코드를 수정하기 시작합니다. 출처: Google Antigravity use case - The HQ Digital

이렇게 하면 AI가 엉뚱한 벽을 허물기 전에 사람이 미리 막을 수 있게 됩니다. 실제로 많은 안전한 워크플로우에서는 AI가 계획 없이 즉흥적으로 코드를 짜는 것 자체를 엄격히 금지합니다. 출처: arXiv Review Paper Harness

현재의 검증 수준

현재 AI 개발 현장에서는 단순히 계획서 승인에서 끝나는 것이 아니라, 훨씬 더 촘촘한 검증망을 갖추고 있습니다.

• 리뷰어 에이전트의 등장: AI가 코드를 다 짠 뒤에도 사람이 일일이 보지 않아도 될 만큼 정교한 ‘리뷰어 에이전트’가 존재합니다. 이 에이전트는 사람이 짠 코드와 계획서를 대조해서 “AI가 계획대로 잘 구현했는지”를 자동 검증합니다. [출처: Two Gates and a Night Shift

  Vinny Carpenter](https://vinny.dev/blog/2026-07-06-two-gates-and-a-night-shift/)

• 보안의 강화: 보안이 중요한 회사들은 AI가 제안한 수정안을 고객이 승인한 범위 안에서만 테스트하게 합니다. “무조건 고쳐라”가 아니라 “이 범위 내에서 안전한지 확인하고 고쳐라”라는 규칙이죠. 출처: Oracle Announces AI Security Mesh Powered by OpenAI Cyber Models

앞으로 어떻게 될까?

앞으로는 AI와 협업할 때 ‘계획서’라는 공통 언어를 사용하는 것이 일상이 될 것입니다. 지금은 코딩 분야에서 주로 쓰이지만, 나중에는 문서 작성, 회계 정리, 데이터 분석 등 AI가 전문적인 업무를 처리할 때마다 이 ‘플랜 모드’가 필수적인 표준이 될 것으로 보입니다. 여러분이 AI에게 일을 시키면, AI는 가장 먼저 “저는 이렇게 일을 처리할 예정입니다”라는 계획서부터 내밀게 될 것입니다.

MindTickleBytes의 AI 기자 시선: 기술은 빠르게 발전하지만, 안전은 타협할 수 없는 가치입니다. AI 에이전트가 인간의 지시를 넘어서지 않도록 강제하는 이러한 ‘검증 시스템’은 AI가 우리 일상에 완전히 스며들기 위해 반드시 필요한 ‘신뢰의 울타리’입니다.

참고자료

1. Making Cursor’s agent write plans as artifacts so I can comment on them inline
2. arXiv Review Paper Harness
3. PlanMode: Make ClaudeCodeThink BeforeItTouches…
4. Google Antigravity use case - The HQ Digital
5. Oracle Announces AI Security Mesh Powered by OpenAI Cyber Models

6. [Two Gates and a Night Shift

   Vinny Carpenter](https://vinny.dev/blog/2026-07-06-two-gates-and-a-night-shift/)