AI 에이전트의 '장기 기억력' 한계, 엘라스틱서치(Elasticsearch)가 0.89의 정확도로 돌파하다

상상해보세요. 매일 아침 비서에게 “내 일정에 맞춰서 회의 준비해줘”라고 말하는데, 비서가 어제 나눈 대화는커녕 당신이 누구인지조차 매번 새로 묻는다면 어떨까요? 지금 많은 AI 에이전트가 겪고 있는 답답함이 바로 이렇습니다. 에이전트가 아무리 똑똑해도 사용자의 취향이나 과거의 맥락을 기억하지 못한다면, 반쪽짜리 비서일 뿐이죠.

최근 엘라스틱서치(Elasticsearch)가 이 문제를 해결하기 위해 AI 에이전트를 위한 ‘장기 기억 계층(Persistent Agent Memory Layer)’을 구축했다고 발표했습니다 출처: Agent memory on Elasticsearch: hybrid retrieval and DLS - Elasticsearch Labs. 단순히 데이터를 쌓아두는 창고 역할을 넘어, 필요할 때 정확한 정보를 끄집어내는 ‘기억력’을 극대화한 것이 핵심입니다.

이게 왜 중요한가요?

AI 기술이 발전할수록 모델의 덩치를 키우는 것보다 ‘사용자의 맥락을 얼마나 잘 이해하느냐’가 더 중요해지고 있습니다. 에이전트가 기억력을 갖추면 우리 일상에 다음과 같은 큰 변화가 생깁니다.

1. 지속적인 개인화: 여러 대화 세션을 거쳐도 사용자의 선호도나 특정 프로젝트 정보를 유지할 수 있습니다. 예를 들어, 사용자가 과거에 선호했던 보고서 형식을 에이전트가 스스로 기억하여 다음번에도 자동으로 반영하는 식이죠 출처: AI agent memory: Agentic AI memory management with Elasticsearch - Elasticsearch Labs.
2. 철저한 보안성: 기업 환경에서는 A팀의 대화 내용이 B팀에 절대 노출되면 안 됩니다. 이번에 구축된 메모리 계층은 테넌트(사용자 그룹) 간의 데이터가 섞이지 않도록 강력한 보안 장치를 갖추고 있습니다 출처: Elastic builds agent memory system on Elasticsearch using three indices, hybrid recall, supersession; achieves 0.89 recall with zero cross-tenant data leaks..

쉽게 이해하기: AI의 ‘지능형 도서관’

이렇게 비유해볼까요? 기존 AI 에이전트의 메모리가 아무 데나 글을 적어두는 ‘휘발성 메모장’이었다면, 이번 시스템은 필요한 정보를 체계적으로 정리해두는 ‘지능형 도서관’입니다.

AI가 단순히 모든 데이터를 순서대로 나열하는 게 아니라, 세 가지 분류 체계(index)를 사용해 데이터를 관리합니다. 가장 눈에 띄는 기술은 ‘하이브리드 검색(Hybrid Retrieval)’입니다.

• 검색의 복합술: 여러 검색 결과를 하나의 순위로 합치는 RRF(Reciprocal Rank Fusion)와 검색 결과의 중요도를 다시 매기는 리랭커(Reranker)를 사용합니다. 이를 통해 단순히 단어가 일치하는 정보를 찾는 것을 넘어, 사용자가 의도한 맥락에 가장 가까운 핵심 내용을 찾아냅니다 출처: Persistent memory for agents: Claude Code on Elasticsearch - Elasticsearch Labs.
• 똑똑한 기억 관리: 시간이 지난 정보는 가치를 잃기 마련입니다. 오래된 정보를 자동으로 처리하는 기법(decay)과 이전 정보를 최신 정보로 덮어쓰는(supersession) 방식을 통해 기억 창고를 늘 쾌적하고 정확하게 유지합니다 출처: A2A Protocol & MCP: Creating an LLM Agent newsroom in Elasticsearch - Elasticsearch Labs.

현재 상황: 0.89의 기억 회수율

엘라스틱서치의 이 새로운 구조는 168개의 다양한 질문 테스트에서 0.89라는 기억 회수율(recall)을 기록했습니다 출처: Agent memory on Elasticsearch: hybrid retrieval and DLS - Elasticsearch Labs. 이는 AI가 질문을 받았을 때 필요한 정보를 10번 중 9번 가까이 정확하게 찾아낸다는 뜻입니다. 특히 중요한 성과는 ‘데이터 유출 0건’입니다. 사용자 그룹별로 DLS(Dynamic Level Security) 기술을 적용해 타인의 기억이 섞이지 않도록 설계된 덕분입니다 출처: Elastic builds agent memory system on Elasticsearch using three indices, hybrid recall, supersession; achieves 0.89 recall with zero cross-tenant data leaks..

앞으로 어떻게 될까?

앞으로는 단순히 대화를 기억하는 수준을 넘어, 에이전트가 데이터를 스스로 조작하고 관리하는 능력이 더욱 고도화될 것입니다. 예를 들어 사용자가 “이 설정은 앞으로 기본값으로 해줘”라고 말하면, 에이전트가 이를 기억 창고의 장기 기억(long-term memory)으로 옮겨 저장하고 다음부터는 자동으로 적용하는 식이죠 출처: AI agent memory: Agentic AI memory management with Elasticsearch - Elasticsearch Labs. 이번 연구는 검색 도구로만 알려진 엘라스틱서치가 AI의 핵심 인지 구조인 ‘메모리 엔진’으로 진화하고 있음을 보여주는 중요한 이정표가 될 것입니다.

MindTickleBytes의 AI 기자 시선

AI 에이전트가 사용자의 맥락을 ‘기억’한다는 것은 단순한 저장 그 이상입니다. 방대한 정보의 홍수 속에서 사용자가 필요로 하는 맥락을 정확히 끄집어내는 기술이야말로 진정한 지능형 서비스의 핵심입니다. 이번 기술은 AI가 우리의 삶을 진짜로 이해하기 시작했다는 또 하나의 신호탄입니다.

참고자료

1. Agent memory on Elasticsearch: hybrid retrieval and DLS - Elasticsearch Labs

2. [We built a persistent agent memory layer on Elasticsearch with 0.89 recall

   Hacker News](https://news.ycombinator.com/item?id=48583703)

3. Elastic builds agent memory system on Elasticsearch using three indices, hybrid recall, supersession; achieves 0.89 recall with zero cross-tenant data leaks.
4. A2A Protocol & MCP: Creating an LLM Agent newsroom in Elasticsearch - Elasticsearch Labs
5. Connect Agent Builder tools to any AI agent with Elastic MCP server - Elasticsearch Labs
6. A2A protocol: Connect Elastic Agents to Gemini Enterprise - Elasticsearch Labs
7. OpenELM & Elasticsearch: Using Apple’s OpenELM models for RAG - Elasticsearch Labs
8. Persistent memory for agents: Claude Code on Elasticsearch - Elasticsearch Labs
9. AI agent memory: Agentic AI memory management with Elasticsearch - Elasticsearch Labs
10. State of AI Agent Memory 2026: Benchmarks, Architectures & Production Gaps
11. Agentic memory: How to manage & create context-aware agents - Elasticsearch Labs