AI가 인간의 언어를 거치지 않고 서로 '직접' 대화할 수 있을까?

상상해보세요. 여러분이 외국인 친구와 대화를 나누고 있습니다. 예전에는 내가 먼저 한국어로 문장을 완벽하게 만들고, 번역기에게 맡겨 영어로 바꾸고, 친구에게 전달한 뒤, 친구가 다시 자기 언어로 이해하는 긴 과정을 거쳐야 했습니다. 만약 우리 뇌를 직접 연결해서 ‘개념’ 자체를 텔레파시처럼 주고받을 수 있다면 어떨까요?

인공지능(AI) 분야에서도 이와 비슷한 변화가 일어나고 있습니다. 지금까지 AI 모델들이 서로 정보를 공유할 때는 마치 사람이 대화하듯 텍스트를 생성하고, 상대방이 그 텍스트를 다시 읽고 이해하는 번거로운 과정을 거쳐야 했습니다. 하지만 최근 ‘Cache-to-Cache(C2C)’라는 새로운 통신 패러다임이 등장하며 이러한 관행이 깨지고 있습니다.

이게 왜 중요한가요?

지금까지 거대 언어 모델(LLM)들은 서로 협력할 때도 텍스트라는 ‘병목 구간’에 갇혀 있었습니다. 사람이 글을 쓸 때 고민하고 문장을 다듬는 시간이 걸리듯, AI 모델도 정보를 전달하기 위해 텍스트를 생성하는 데 상당한 시간과 자원을 낭비해야 했습니다(출처: MarkTechPost).

C2C는 이 과정을 완전히 생략합니다. 이 기술은 AI의 속도 문제를 해결할 뿐만 아니라, 텍스트로 변환하는 과정에서 발생하던 ‘정보 손실’도 줄여줍니다(출처: MarkTechPost). AI 에이전트들이 더 빠르고 정교하게 협업할 수 있는 시대가 오고 있다는 뜻입니다.

쉽게 이해하기

C2C를 이해하기 위해선 먼저 KV-Cache라는 개념을 알아야 합니다. 쉽게 말해 KV-Cache는 AI가 문장을 처리할 때 사용하는 ‘단기 기억 저장소’입니다. AI가 이전에 읽은 내용을 매번 처음부터 다시 보지 않도록, 주요 정보들을 요약해 담아두는 노트 같은 것이죠.

기존 방식은 이 노트 내용을 다시 텍스트로 풀어써서 상대 모델에게 전달했습니다. 하지만 C2C는 이 노트 자체를 상대방에게 직접 건넵니다(출처: AI Future Front).

물론 모델마다 쓰는 언어나 기록 방식이 다르겠죠? C2C는 이 문제를 해결하기 위해 별도의 ‘통역사 신경망’을 둡니다. 이 신경망은 소스 모델(정보를 주는 AI)의 노트를 대상 모델(정보를 받는 AI)이 이해할 수 있는 방식으로 재구성(투영 및 융합)해 줍니다(출처: arXiv). 특히 똑똑한 ‘선택적 필터(Gating Mechanism)’가 있어서, 상대 모델의 모든 층에 정보를 다 쏟아붓는 것이 아니라, 가장 효과가 좋을 곳만 골라 정보를 전달합니다(출처: OpenReview).

비유하자면, 두 명의 화가가 그림을 그릴 때, 말로 설명하는 대신 서로의 색상 팔레트와 붓 터치 기법을 직접 공유하며 하나의 캔버스를 완성하는 것과 같습니다.

현재 상황

연구 결과는 놀랍습니다. C2C 기술을 적용하면 기존의 텍스트 기반 통신 방식보다 정확도가 약 3.0%에서 5.4% 정도 더 높아지며, 통신 속도(지연 시간)는 평균 2.0배에서 2.5배까지 빨라집니다(출처: arXiv). 단순히 모델 하나를 쓰는 것보다도 약 6.4%에서 14.2% 정도 더 높은 정확도를 기록하기도 했습니다(출처: arXiv).

현재 기술은 모델 간의 지식을 직접 전송하는 수준까지 성공적으로 구현되었습니다(출처: arXiv). 연구팀은 40억 개의 매개변수를 가진 모델(Qwen3-4B)에서 6억 개의 매개변수를 가진 작은 모델로 지식을 전송하는 실험을 성공적으로 마쳤으며, 시각화 결과 전송된 데이터가 대상 모델의 사고 영역 안으로 자연스럽게 스며드는 것을 확인했습니다(출처: C2C 프로젝트 페이지).

앞으로 어떻게 될까?

C2C는 앞으로 AI 서비스의 효율성을 극대화할 것입니다. 지금은 AI에게 복잡한 일을 시키면 AI가 혼자서 끙끙 앓거나 텍스트를 주고받으며 시간을 끄느라 답변이 늦어지는 경우가 많습니다. 하지만 미래에는 각 분야에 특화된 수많은 AI 모델들이 C2C를 통해 마치 하나의 거대한 두뇌처럼 정보를 주고받으며 실시간으로 응답할 것입니다.

우리는 이제 ‘언어 모델’을 넘어 ‘지능형 통신 네트워크’ 시대로 나아가고 있습니다. AI들이 서로 더 깊고 빠르게 대화하게 될수록, 우리 삶 속의 AI 비서들은 지금보다 훨씬 더 영리하고 효율적인 답변을 내놓게 될 것입니다.

MindTickleBytes의 AI 기자 시선

AI가 인간의 언어라는 제약에서 벗어나 데이터를 직접 공유하기 시작했다는 점은 매우 흥미롭습니다. 이는 인간이 의사소통할 때 겪는 언어의 장벽이나 표현의 한계를 AI가 먼저 극복하고 있다는 방증일지도 모릅니다. 머지않아 AI는 우리에게 ‘말’을 거는 것을 넘어, 우리 뒤편에서 보이지 않는 지식의 고속도로를 달리고 있을 것입니다.

참고자료

1. [2510.03215] Cache-to-Cache: Direct Semantic Communication Between Large Language Models (https://arxiv.org/abs/2510.03215)
2. Paper page - Cache-to-Cache: Direct Semantic Communication Between Large Language Models (https://huggingface.co/papers/2510.03215)
3. GitHub - thu-nics/C2C (https://github.com/thu-nics/C2C)

4. Cache-to-Cache: Direct Semantic Communication Between Large Language Models

   OpenReview (https://openreview.net/forum?id=LeatkxrBCi)

5. Cache-to-Cache: Direct Semantic Communication Between Large Language Models (https://arxiv.org/html/2510.03215v2)
6. [2510.03215v1] Cache-to-Cache: Direct Semantic Communication Between Large Language Models (https://arxiv.org/abs/2510.03215v1)
7. Cache-to-Cache(C2C): Direct Semantic Communication Between Large Language Models via KV-Cache Fusion - MarkTechPost (https://www.marktechpost.com/2025/11/04/cache-to-cachec2c-direct-semantic-communication-between-large-language-models-via-kv-cache-fusion/)
8. Cache-to-Cache: Direct Semantic Communication Between Large (https://arxiv.org/pdf/2510.03215)
9. ICLR Poster Cache-to-Cache: Direct Semantic Communication (https://iclr.cc/virtual/2026/poster/10010020)
10. Cache-to-Cache: Direct Semantic Communication Between Large (https://liner.com/review/cachetocache-direct-semantic-communication-between-large-language-models)
11. Cache-to-Cache (https://fuvty.github.io/C2C_Project_Page/)

12. Cache-to-Cache

    OpenTrain AI (https://www.opentrain.ai/papers/cache-to-cache-direct-semantic-communication-between-large-language-models–arxiv-2510.03215/)

13. Cache-to-Cache: Direct Semantic Communication Between Large (https://www.headlinne.com/articles/cache-to-cache-direct-semantic-communication-between-large-language-models-hacker-news)
14. Cache-to-Cache (C2C): Direct Semantic Communication Between (https://aifuturefront.com/cache-to-cachec2c-direct-semantic-communication-between-large-language-models-via-kv-cache-fusion/)