AI가 스스로 자신의 '지능 껍데기'를 수정한다고? 스스로 진화하는 AI 에이전트의 시대

상상해보세요. 여러분이 새로운 조수를 채용했습니다. 그런데 이 조수는 일을 시킬 때마다 “이런 식으로 일하는 게 더 효율적일 것 같아요”라고 말하며 스스로 일하는 방식(매뉴얼)을 계속 업그레이드합니다. 심지어 여러분이 지시하지 않아도 자기만의 도구와 기억 체계를 스스로 재정비합니다. 공상과학 영화 속 이야기가 아닙니다. 구글 딥마인드(Google DeepMind)가 발표한 최신 연구들이 보여주는 ‘스스로 진화하는 AI 에이전트’의 모습입니다.

왜 이 기술이 중요한가요?

그동안 AI 에이전트를 만드는 과정은 매우 고통스럽고 비용이 많이 드는 ‘수동 노동’의 연속이었습니다. 에이전트가 어떤 작업을 하려면 인간 엔지니어가 그 작업을 위한 구체적인 규칙과 제약 사항을 일일이 정의해줘야 했기 때문입니다. 이 연결 고리를 만드는 과정을 업계에서는 ‘하네스(harness)’라고 부르는데, 사실 이 과정이 AI 에이전트 도입의 가장 큰 걸림돌이었습니다. 출처: This AutoHarness paper(from Google DeepMind) is the most…

하지만 이제는 다릅니다. AI가 스스로 자신의 작동 체계를 수정하고 최적화할 수 있게 되면, 인간의 개입 없이도 AI 에이전트가 다양하고 복잡한 작업을 자율적으로 수행하는 세상이 빠르게 다가올 것입니다. 이는 AI 기술이 연구실 수준을 넘어 실무 현장에 ‘규모 있게(scalable)’ 배치되는 중요한 분기점이 될 것입니다.

쉽게 이해하기: AI의 ‘접착제’, 하네스

기술적인 이야기를 조금만 더 쉽게 풀어볼까요? AI 에이전트는 보통 ‘두뇌’ 역할을 하는 거대언어모델(LLM)과, 이 두뇌가 외부 세상과 소통할 수 있게 돕는 ‘하네스’라는 틀로 구성됩니다. 출처: AutoHarness: improving LLM agents by automatically …

이렇게 비유하면 쉽습니다. AI 에이전트를 ‘천재 화가’라고 해봅시다. 화가가 그림을 그리려면 붓도 있어야 하고(도구), 캔버스도 준비해야 하고(환경), 어떤 그림을 그릴지 지시사항(프롬프트)도 명확해야 합니다. 여기서 화가의 도구함과 그림 그리는 과정을 돕는 작업대 전체를 ‘하네스’라고 보면 됩니다. 기존에는 인간이 일일이 붓을 챙겨주고 작업대 높이를 조절해줬다면, 이제는 화가(AI)가 스스로 “이번 그림에는 이런 붓이 필요하겠군”이라며 도구함의 구조를 바꾸는 것입니다.

또한 Evo2라는 프레임워크는 에이전트가 하네스를 고치면서 얻은 데이터를 학습 데이터로 재활용합니다. 즉, 고치고 실험해본 경험을 데이터로 쌓아 자신의 워크플로우(업무 흐름)를 스스로 강화하는 것이죠. 출처: Google DeepMind paper trains an agent to rewrite its own harness

어디까지 왔을까요?

현재 AI 연구 분야에서는 스스로 구조를 개선하는 여러 흥미로운 방식들이 논의되고 있습니다.

첫째, AutoHarness는 에이전트가 코드를 직접 작성하여 스스로 하네스를 만들어냅니다. 인간이 복잡한 규칙을 수동으로 짜는 것보다, 소량의 반복적인 정제 과정을 거친 자동화된 하네스가 더 효율적인 성능을 보여주기도 합니다. 출처: [2603.03329] AutoHarness

둘째, Self-Harness는 에이전트가 외부의 강력한 지원군이나 인간의 도움 없이 독립적으로 자신의 작동 환경을 개선하는 새로운 패러다임입니다. 출처: [2606.09498] Self-Harness: Harnesses That Improve Themselves

셋째, RRSI(재귀적 자기 개선) 기술은 구글 클라우드 AI 연구팀 등이 발표한 것으로, 프롬프트, 도구, 기억 체계, 제어 흐름, 심지어는 하위 에이전트(sub-agents)까지 AI가 직접 다시 작성하게 합니다. 출처: Paper AutoHarness from DeepMind Changes AI Agents 1

현장 전문가들은 “모델 자체의 성능 차이보다 어떤 하네스를 쓰느냐에 따른 성능 격차가 더 크다”라고 입을 모읍니다. 아무리 똑똑한 모델이라도 도구를 활용하는 방식이 나쁘면 제 능력을 발휘하지 못하기 때문입니다. 출처: Auto-Harness Synthesis - Just Understanding Data

앞으로의 미래

우리는 이제 ‘AI에게 무엇을 시킬까’를 고민하는 단계를 넘어, ‘AI가 스스로 어떤 도구와 방식을 선택해 문제를 해결할지’ 지켜보는 단계로 나아가고 있습니다. 인간의 개입이 최소화된, 진정한 의미의 자율 에이전트가 우리 일상을 어떻게 바꿔놓을지 함께 지켜보는 것은 어떨까요?

참고자료

1. Google DeepMind - Wikipedia
2. This AutoHarness paper(from Google DeepMind) is the most…
3. Google DeepMind
4. AI has grown beyond human knowledge, says Google’s DeepMind unit

5. [The Harness That Learns You

   XO Docs](https://docs.xo.builders/research/perspectives/the-harness-that-learns-you)

6. Google DeepMind paper trains an agent to rewrite its own harness
7. AutoHarness: improving LLM agents by automatically …
8. [2603.03329] AutoHarness: improving LLM agents by …

9. [AutoHarness: LLM Agents That Build Own Scaffolding

   aiHola](https://aihola.com/article/autoharness-llm-agent-code-harness)

10. Auto-Harness Synthesis - Just Understanding Data

11. [AutoHarness

    DAIR.AI Academy](https://academy.dair.ai/papers/autoharness)

12. [2606.09498] Self-Harness: Harnesses That Improve Themselves
13. Paper AutoHarness from DeepMind Changes AI Agents 1