AI가 보이지 않는 규칙을 스스로 찾아낼 수 있을까? '에이전트 오토마타 학습'이 던지는 질문

상상해보세요. 여러분이 한 번도 가본 적 없는 복잡한 미로에 뚝 떨어졌습니다. 지도도, 나침반도 없습니다. 오직 여러분에게는 갈림길마다 벽을 두드려보거나, 길을 한 번 지나가 본 뒤 이게 정답인지 물어볼 수 있는 ‘질문 도구’가 하나 주어져 있습니다. 여러분은 이 도구를 사용해 미로의 전체 구조를 얼마나 빨리 그려낼 수 있을까요?

최근 AI 연구자들은 거대언어모델(LLM) 기반의 AI 에이전트들이 바로 이런 상황에서 어떤 능력을 보여주는지, 즉 스스로 보이지 않는 환경의 법칙(World Model)을 찾아낼 수 있는지를 검증하는 흥미로운 실험을 진행했습니다. [출처: Can LLM Agents Infer World Models? Evidence from Agentic Automata Learning]

이게 왜 중요한가요?

지금까지 우리가 사용해 온 AI는 이미 잘 정리된 방대한 데이터를 학습하고 그 안에서 정답을 찾는 ‘학생’에 가까웠습니다. 하지만 미래의 AI 에이전트는 다릅니다. 낯선 환경에 던져져서 무엇이 옳고 그른지, 어떤 행동이 어떤 결과를 가져오는지 스스로 깨닫고 적응하는 ‘탐험가’가 되어야 합니다.

이번 연구는 AI가 정해진 답을 외우는 능력을 넘어, 복잡한 시스템의 숨겨진 원리를 스스로 추론할 수 있는지를 확인하려 합니다. 만약 AI가 이런 ‘학습의 원리’를 터득한다면, 복잡한 산업 현장의 운영 규칙을 자동으로 파악하거나 과학적 실험 과정에서 새로운 법칙을 발견하는 등 우리 삶의 방식이 완전히 바뀔 수 있습니다. [출처: Global AI Weekly - Issue 155]

쉽게 이해하기: AI의 ‘탐정 놀이’

연구진은 ‘에이전트 오토마타 학습(Agentic Automata Learning)’이라는 새로운 시험대를 마련했습니다. 여기서 ‘오토마타’란 아주 간단하게 말하면 입력에 따라 상태가 변하는 기계적인 규칙 세트입니다. 쉽게 비유하자면, AI 에이전트에게 굳게 잠긴 비밀 금고를 주고, 도어락의 비밀번호 패턴을 스스로 찾아내게 하는 것과 비슷합니다. [출처: Agentic Automata Learning]

AI 에이전트는 크게 두 가지 질문을 통해 이 ‘금고(환경)’의 규칙을 알아냅니다.

1. 멤버십 질의(Membership Queries): “이 비밀번호(문자열)가 이 금고를 여는 조합에 속하니?”라고 물어보고 확인합니다.
2. 등가성 질의(Equivalence Queries): “내가 지금까지 알아낸 이 규칙이 전체 비밀번호를 여는 규칙과 완벽히 같니?”라고 물어보고, 틀리면 피드백을 받아 다시 수정합니다. [출처: Can LLM Agents Infer World Models? Evidence from Agentic Automata Learning]

이 과정을 통해 AI는 끊임없이 시행착오를 겪으며 환경이 가진 구조를 점점 정교하게 그려나갑니다. 마치 우리가 퍼즐 조각을 하나씩 맞춰가며 전체 그림을 완성하는 것과 같습니다. [출처: Can LLM Agents Infer World Models? Evidence from Agentic Automata Learning]

현재 상황: 어디까지 왔나

연구 결과는 꽤 흥미롭습니다. 현재의 AI 에이전트들은 환경과 상호작용하며 흥미로운 발견을 해내는 ‘탐험가’로서의 가능성을 충분히 보여주었습니다. 하지만 아직 완벽하지는 않습니다.

연구진은 AI 에이전트들이 수십 년간 정립된 ‘고전적인 오토마타 학습 알고리즘’에 비해서는 견고함이나 효율성이 부족하다는 점을 지적했습니다. 특히, 환경이 조금만 더 복잡해지면 에이전트의 성능이 급격하게 떨어지는 현상이 발견되었습니다. 이는 AI가 가진 지능이 아직은 ‘경험적인 추측’에 머물러 있으며, 아주 치밀하고 논리적인 규칙 체계를 끝까지 파고드는 능력은 더 키워야 함을 의미합니다. [출처: Can LLM Agents Infer World Models? Evidence from Agentic Automata Learning]

앞으로 어떻게 될까?

이번 연구는 AI가 정해진 정답지에서 벗어나 스스로 정답을 찾아가는 첫걸음입니다. 당장 AI 에이전트가 현실 세계의 모든 복잡한 물리 법칙을 스스로 알아낼 수는 없겠지만, 전문가들은 이번에 제안된 ‘에이전트 오토마타 학습’이 AI의 지능을 평가하는 중요한 척도가 될 것이라고 보고 있습니다. [출처: Can LLM Agents Infer World Models? Evidence from Agentic Automata Learning]

앞으로 우리는 AI 에이전트가 단순한 ‘대화 상대’를 넘어, 낯선 환경 속에서 스스로 법칙을 찾고 문제를 해결하는 ‘진정한 지적 동반자’로 거듭나는 과정을 지켜보게 될 것입니다.

MindTickleBytes의 AI 기자 시선

AI가 데이터를 암기하는 단계를 넘어, 스스로 환경의 법칙을 추론하려는 시도는 진정한 지능으로 가는 중요한 발걸음입니다. 비록 현재는 고전적인 알고리즘보다 효율이 낮지만, 이 격차를 줄이는 것이 에이전트 시대를 완성하는 열쇠가 될 것입니다.

참고자료

1. Reef Menaged 외, Can LLM Agents Infer World Models? Evidence from Agentic Automata Learning
2. Emergent Mind, Agentic Automata Learning
3. Hacker News, Evidence from Agentic Automata Learning
4. Modern Orange, Can LLM Agents Infer World Models?
5. Agent Brief, Engineering the Agentic Reality Wall
6. Hugging Face, Can LLM Agents Infer World Models?
7. arXiv Signals, Can LLM Agents Infer World Models?
8. Reef Menaged, Can LLM Agents Infer World Models? - Agentic Automata Learning
9. Emergent Mind, Can LLM Agents Infer World Models? Evidence from Agentic Automata Learning
10. Global AI Community, Global AI Weekly - Issue 155