AI가 사람처럼 '잠'을 자며 배운 내용을 정리하고 기억을 강화하는 새로운 방식인 '수면 프레임워크'를 통해 AI의 지속적인 학습 능력이 어떻게 향상되는지 알아봅니다.
상상해보세요. 어제 배운 영어 단어 100개를 오늘 완벽히 암기했다고 기뻐했는데, 알고 보니 오늘 배운 수학 공식을 외우느라 어제 외운 영어 단어를 모두 잊어버렸다면 어떨까요? 사람이라면 낭패겠지만, 놀랍게도 인공지능(AI)은 그동안 이런 문제를 겪어왔습니다.
거대 언어 모델(LLM, 방대한 텍스트를 학습해 문장을 생성하거나 요약하는 AI 모델[Source 1])은 매우 똑똑하지만, 새로운 지식을 계속해서 배우는 과정에서 과거의 기억을 잃어버리는 일명 ‘파괴적 망각’이라는 벽에 부딪히곤 했습니다. 그런데 최근 구글 연구진이 이 문제를 해결하기 위해 사람처럼 ‘잠’을 자는 AI 구조를 제안했습니다[Source 12, Source 16].
이게 왜 중요한가요?
AI가 매번 새로 학습할 때마다 처음부터 다시 배워야 한다면 시간과 비용이 엄청나게 소모됩니다. 우리가 책을 볼 때 어제 읽은 내용을 바탕으로 오늘 내용을 이해하듯, AI도 어제 배운 내용을 기억하면서 오늘 새로운 지식을 쌓아가는 ‘지속적 학습(Continual Learning)’ 능력이 필수적입니다[Source 2].
만약 AI가 잠을 자며 기억을 정리할 수 있게 된다면, 서비스 제공자는 AI를 매번 처음부터 다시 학습시킬 필요 없이 AI가 새로운 환경에 맞춰 스스로 진화하도록 할 수 있습니다[Source 5, Source 16]. 이는 더 똑똑하고 효율적인 AI 비서를 만드는 데 결정적인 열쇠가 될 것입니다.
쉽게 이해하기: AI의 ‘수면 프레임워크’
구글 연구진이 제안한 ‘수면 프레임워크(Sleep Framework)’는 생물학적인 기억 강화 원리를 모방합니다[Source 12, Source 16]. 쉽게 말해서, 낮에 학습한 내용을 밤에 정리하는 사람의 뇌를 흉내 낸 것입니다. 이 프레임워크는 크게 두 가지 상태로 나뉩니다[Source 2].
- 깨어있는 상태(Wake Phase): 우리가 낮에 공부하듯, AI가 실시간으로 새로운 데이터를 받아들이고 처리하는 단계입니다[Source 14].
- 잠든 상태(Sleep Phase): 외부로부터 새로운 데이터를 입력받는 일을 멈추거나 최소화합니다. 대신 기존에 배워둔 지식을 정리하고 통합하며, 스스로 질문을 던지고 답을 생성하는 ‘드림(Dreaming)’ 과정을 통해 기억을 강화합니다[Source 14, Source 16].
비유하자면 ‘깨어있는 시간’은 도서관에서 신간 서적을 계속 읽어 들이는 시간이라면, ‘수면 시간’은 읽은 책들을 분류하고 요약해서 머릿속 서가에 정리해두는 시간인 셈입니다. 특히 재미있는 점은 AI가 잠든 시간에 자신의 기억을 되새기며 스스로 생성한 예제들을 다시 학습하는 과정인데, 사실 학습 효과의 약 70~78%가 바로 이 ‘드림’ 과정에서 나타납니다[Source 16, Source 17].
현재 상황
현재 이 ‘수면 프레임워크’는 고정된 시스템 구조 안에서도 미리 할당된 모듈식 메모리 블록(MoE, Mixture of Experts, 전문가 혼합 모델[전문가처럼 특화된 데이터 영역을 골라 처리하는 방식])을 활성화하여 효율적으로 데이터를 처리합니다[Source 16]. 초기 연구 결과에 따르면, 새로운 지식을 학습하면서도 이전의 성능을 거의 잃어버리지 않는(near-zero performance loss) 놀라운 결과를 보여주었습니다[Source 16].
다만, 실제 서비스되는 AI 모델들은 보통 ‘학습이 완료된(Frozen, 가중치가 고정된)’ 상태로 배포되기 때문에, 이런 방식이 실제 서비스 모델에 어떻게 적용될지는 더 많은 검증이 필요합니다[Source 17]. 현재의 LLM들은 즉각적인 예측이나 문맥 학습에는 능하지만, 스스로 지식을 계속 업데이트하며 기억을 보존하는 능력은 아직 숙제 단계에 있습니다[Source 13].
앞으로 어떻게 될까?
앞으로는 AI가 24시간 내내 새로운 정보를 학습하며 기존 것을 잊지 않으려 애쓰는 대신, 우리처럼 낮에는 일하고 밤에는 기억을 정리하며 자신을 더 똑똑하게 만드는 모델들이 등장할 것으로 보입니다[Source 14].
우리가 새로운 기술을 익힐 때 단순히 책을 읽기만 하는 것이 아니라 노트 필기를 하거나 누군가에게 가르쳐보며 학습을 완성하듯[Source 11], AI 역시 스스로 생성한 예제를 다시 풀어보며 배운 내용을 공고히 하는 방향으로 발전하고 있습니다[Source 16]. 여러분의 인공지능 비서가 내일 아침, 어제 학습한 내용을 완전히 이해한 채로 더 똑똑해진 모습으로 돌아올지도 모릅니다.
AI의 시선: MindTickleBytes AI 기자의 시선
AI에게 ‘잠’이라는 개념을 도입했다는 것은 기술적으로 매우 흥미로운 시도입니다. 단순히 더 많은 데이터를 쏟아붓는 것만이 능사가 아니라, 배운 것을 어떻게 정리하고 보존할 것인가라는 ‘기억의 질’에 대한 고민이 시작되었음을 보여줍니다. 우리가 지식을 체계화하며 현명해지듯, AI도 이제 스스로 사유하는 법을 배우기 시작한 것 같습니다.
참고자료
- Large language model - Wikipedia
- The sleep framework: A new way for LLMs to retain knowledge in continual learning
- Continual Learning for Large Language Models: A Survey
-
[This AI Model Never Stops Learning WIRED](https://www.wired.com/story/this-ai-model-never-stops-learning/) -
[Towards Lifelong Learning of Large Language Models alphaXiv](https://www.alphaxiv.org/abs/2406.06391v1) -
[Interference and Retention in Continual Learning alphaXiv](https://www.alphaxiv.org/abs/2607.09202) - Reasoning-Augmented Continual Learning
- Post-training of LLMs - DeepLearning.AI
-
[Google Sleep Framework: LLMs That Learn Without Forgetting explainx](https://explainx.ai/blog/google-research-sleep-framework-continual-learning-llm-memory-consolidation-dreaming-2026) - Language Models Need Sleep: Learning to Self-Modify and Consolidate …
- Language Models Need Sleep: Learning to Self-Modify and Consolidate …
- Google Research introduces a sleep framework for continual learning in LLMs
- Google Sleep: dreaming drives fact learning; consolidation supports …
- 새로운 데이터 수집
- 기존 기억의 통합 및 정리
- 사용자와 실시간 대화
- 데이터 압축
- 드림(Dreaming)
- 정기적인 시스템 업데이트
- 빠른 계산 속도
- 새로운 지식을 익히며 기존 지식을 잊는 문제
- 에너지 과다 소모