AI도 사람처럼 '망각'을 배운다고? 똑똑한 AI를 위한 140년 전의 비결

상상해보세요. 당신이 매일 아침 비서에게 오늘 할 일을 말해줍니다. 그런데 이 비서가 당신의 모든 말을 토씨 하나 틀리지 않고 1년 전 일까지 전부 기억하려 든다면 어떨까요? 아마 당신이 “오늘 점심 메뉴가 고민이야”라고 말할 때마다, 비서는 “작년 3월 15일 점심으로 드셨던 김치찌개는 어떠셨나요?”라며 엉뚱한 정보까지 꺼내느라 대화가 한참 지연될 겁니다.

최근 인공지능(AI) 분야에서도 이와 비슷한 고민이 깊어지고 있습니다. AI가 똑똑해질수록 점점 더 많은 정보를 기억하려다 보니, 정작 중요한 일을 처리하는 속도가 느려지거나 대화의 맥락을 놓치는 현상이 발생하고 있는 것이죠. 이를 해결하기 위해 개발자들은 무려 140년 전의 오래된 심리학 이론, ‘에빙하우스의 망각 곡선(Ebbinghaus forgetting curve)’을 다시 꺼내 들었습니다.

왜 이 문제가 중요한가요?

AI가 사람처럼 똑똑하게 행동하기를 기대하지만, 사실 AI의 기억 구조는 사람과 많이 다릅니다. 사람은 중요하지 않은 정보를 자연스럽게 흘려보내지만, AI는 새로운 정보를 입력받을 때마다 모든 데이터를 끈질기게 붙들고 있으려 합니다. 문제는 이 ‘무차별적인 기억’이 AI를 둔하게 만든다는 점입니다.

실제 연구 결과에 따르면, AI 에이전트(특정 목적을 수행하는 AI)에게 기억 데이터를 5킬로바이트(KB)만 더 주어도 정보를 처리하고 의사결정을 내리는 데 걸리는 시간이 1.1밀리초(ms)씩 늘어납니다[출처: HackerNoon]. 이는 AI를 수백 명, 수천 명의 사용자가 동시에 사용하는 서비스에서는 엄청난 병목 현상을 유발합니다. 우리가 AI에게 더 빠른 반응 속도를 기대한다면, AI도 ‘잘 버리는 법’을 배워야 하는 셈입니다.

쉽게 말해서: AI의 ‘기억 다이어트’

에빙하우스의 망각 곡선은 사람이 시간이 흐름에 따라 얼마나 많은 정보를 잊어버리는지를 보여주는 그래프입니다[출처: ELVTR]. 쉽게 말해서, 우리는 처음 들은 정보의 대부분을 순식간에 잊어버리지만, 여러 번 반복해서 떠올린 정보는 뇌 속에 더 깊이 박히게 됩니다.

개발자들은 이 원리를 AI 기억 관리 엔진에 이식했습니다[출처: Towards Data Science].

비유하자면, AI의 기억 공간을 하나의 ‘사진 앨범’이라고 생각해보세요. 기존의 AI는 매일 찍은 모든 사진을 다 보관하려고 했습니다. 하지만 ‘지능형 망각’이 적용된 AI는 다릅니다. 자주 꺼내 본 사진(사용자가 자주 묻거나 중요하게 다룬 정보)은 앨범 앞쪽으로 옮겨 더 오래 보존하고, 한 번도 보지 않은 흐릿한 사진(불필요한 정보)은 시간이 지나면 알아서 쓰레기통으로 보냅니다[출처: Towards Data Science]. 이렇게 하면 AI는 언제나 ‘지금 당장 필요한 정보’에만 집중할 수 있게 됩니다.

현재 어디까지 왔을까요?

이미 현장에서는 이 이론을 바탕으로 한 실험이 활발합니다. 오픈소스 프로젝트나 기억 관리 도구들은 이 ‘망각 곡선’을 적용해 AI가 기억을 저장하고 불러오는 방식을 바꾸고 있습니다[출처: DEV Community].

하지만 아직 갈 길은 멉니다. 초기 실험 단계의 일부 모델은 정보의 ‘중요성’을 파악하는 대신, 단순히 단어가 얼마나 겹치는지(문자열 일치)만 보고 데이터를 삭제하는 오류를 범하기도 했습니다[출처: Eris dev blog]. 사람이 “어제 말한 그 내용”이라고 모호하게 말해도 맥락을 파악할 수 있어야 하는데, 기계적인 삭제 기준만 적용하다 보니 정작 소중한 맥락까지 함께 지워버리는 실수를 한 것입니다.

또한, AI 파이프라인(작업 흐름) 중간에서 여러 AI가 서로 정보를 주고받을 때, 정작 필요한 정보가 중간에 사라지는 ‘기억 상실(amnesia)’ 문제도 개발자들의 큰 숙제입니다[출처: linksfor.dev].

앞으로 어떤 미래가 펼쳐질까요?

앞으로 AI는 단순히 많은 데이터를 학습하는 단계를 넘어, ‘어떤 정보를 버릴지’를 학습하는 단계로 진화할 것입니다. 단순히 최신 정보 위주로 기억을 관리하던 방식에서 벗어나, 데이터마다 ‘기억 수명(TTL, Time-To-Live)’을 다르게 부여하는 방식이 보편화될 것입니다[출처: TianPan.co].

예를 들어, 사용자가 오늘 수행 중인 ‘성능 디버깅 작업’은 오늘 하루 동안만 AI가 기억하고, 반대로 ‘사용자의 취향이나 선호도’는 더 긴 시간 동안 천천히 지워지도록 설계되는 것이죠[출처: TianPan.co]. 이렇게 되면 우리가 매번 새로 설명하지 않아도 AI는 마치 오래된 비서처럼 우리의 스타일을 이해하게 될 것입니다.

MindTickleBytes의 AI 기자 시선 AI가 똑똑해지려면 무조건 많이 아는 것보다 ‘무엇을 모른 척할지’ 아는 지혜가 필요합니다. 140년 전의 심리학 이론이 최첨단 AI의 두뇌를 더 가볍고 빠르게 만들고 있다는 점은 역설적이면서도 흥미로운 변화입니다. 앞으로의 AI는 ‘기억력’이 아닌 ‘망각의 기술’로 경쟁하게 될 것입니다.

참고자료

1. So this “forgetting curve” did not measure importance at all - Eris dev blog
2. I built a forgetting curve for an agent with one user - Hacker News
3. Multi-agent AI pipelines lose context at every handoff between agents - linksfor.dev
4. Forgetting is not passive at all. It is active. - Foxfire
5. German psychologist Hermann Ebbinghaus built a forgetting curve - ELVTR
6. Context Windows Forget What Matters — I Built a Usage-Reinforced Decay Engine for AI Agent Memory - Towards Data Science
7. Your Memory is a practical open-source MCP server that bakes the Ebbinghaus forgetting curve - DEV Community
8. The cost curve exposed its own remedy: trim context every fifty seconds and cap recall at twenty kilobytes - HackerNoon
9. This mirrors the Ebbinghaus forgetting curve, where retention decays exponentially - TianPan.co
10. Implements Ebbinghaus forgetting-curve retention with usage-based reinforcement - GitHub Topics