C2C 技術在 AI 模型通訊中省略了文字轉換過程,直接融合內部記憶體 KV-Cache,為資訊傳遞帶來了傳輸速度提升兩倍以上、準確度同步改善的全新範式。
試著想像一下:你正在和一位外國朋友交談。過去,你必須先在腦中將句子組織成完美的韓語,交給翻譯機轉成英語,傳遞給朋友,朋友再翻譯成自己的母語來理解,這是一個漫長的過程。如果我們能直接連結大腦,像心電感應一樣傳遞「概念」本身,那會是什麼樣子?
人工智慧(AI)領域也正在發生類似的變革。至今為止,AI 模型之間分享資訊時,都必須像人類交談一樣生成文字,對方再重新閱讀並理解,過程十分繁瑣。然而,隨著一種名為 「Cache-to-Cache (C2C)」 的新通訊範式出現,這種慣例正在被打破。
為什麼這很重要?
至今為止,大型語言模型(LLM)在相互協作時,仍被困在文字這種「瓶頸區間」裡。就像人類寫作時需要思考、推敲語句一樣,AI 模型為了傳遞資訊,也浪費了大量的時間與資源去生成文字(出處: MarkTechPost)。
C2C 完全省略了這個過程。這項技術不僅解決了 AI 的速度問題,還減少了轉換為文字過程中產生的「資訊損失」(出處: MarkTechPost)。這意味著 AI 代理(Agents)能夠以更快、更精確的方式進行協作的時代即將到來。
輕鬆理解
要理解 C2C,首先必須了解 「KV-Cache」 的概念。簡單來說,KV-Cache 是 AI 在處理句子時使用的「短期記憶儲存區」。為了不讓 AI 每次都從頭閱讀之前的內容,系統會將重點資訊摘要存入其中,就像隨手記下的筆記一樣。
傳統方式是將這些筆記內容重新轉化為文字,再傳遞給對方模型。但 C2C 則是將這些筆記本身直接交給對方(出處: AI Future Front)。
當然,每個模型所使用的「語言」或記錄方式可能有所不同,對吧?為了克服這個問題,C2C 在模型之間部署了一個額外的「翻譯官神經網絡」。這個神經網絡會將源模型(提供資訊的 AI)的筆記,重構成目標模型(接收資訊的 AI)能理解的方式(即投射與融合)(出處: arXiv)。特別是它擁有一種聰明的「選擇性過濾機制(Gating Mechanism)」,不會將資訊一股腦地灌入對方模型的所有層級,而是精準挑選最有效的位置來傳遞資訊(出處: OpenReview)。
比喻來說,就像兩位畫家在作畫時,他們不必用言語解釋,而是直接共享對方的調色盤與筆觸技巧,共同完成一幅畫作。
現狀
研究結果令人驚艷。應用 C2C 技術後,準確度比傳統基於文字的通訊方式提高了約 3.0% 至 5.4%,而通訊速度(延遲)平均提升了 2.0 倍至 2.5 倍(出處: arXiv)。在某些實驗中,其準確度甚至比單一模型的使用高出約 6.4% 至 14.2%(出處: arXiv)。
目前這項技術已經成功實現了模型間知識的直接傳輸(出處: arXiv)。研究團隊成功完成了將擁有 40 億參數的模型(Qwen3-4B)中的知識,傳輸至擁有 6 億參數的小型模型中的實驗;視覺化結果顯示,傳輸的資料自然地融入了目標模型的思考領域中(出處: C2C 專案頁面)。
未來展望
C2C 將會極大化 AI 服務的效率。現在,當我們要求 AI 執行複雜任務時,往往會因為 AI 需要獨自思考或頻繁傳遞文字而導致回應遲緩。但在未來,各個領域專屬的 AI 模型將透過 C2C 像一個龐大的大腦一樣交換資訊,並即時做出回應。
我們現在正超越「語言模型」,邁向「智慧通訊網絡」時代。隨著 AI 之間的對話變得更深、更快,我們生活中的 AI 助理將會比現在更聰明、更有效率。
MindTickleBytes 的 AI 記者觀點
AI 開始擺脫「人類語言」的束縛,直接共享資料,這一點非常有意思。這或許證明了 AI 正在率先克服人類在溝通時所面臨的語言隔閡與表達侷限。不久之後,AI 將不僅僅是與我們「對話」,更會在我們背後,在看不見的知識高速公路上飛馳。
參考資料
- [2510.03215] Cache-to-Cache: Direct Semantic Communication Between Large Language Models (https://arxiv.org/abs/2510.03215)
- Paper page - Cache-to-Cache: Direct Semantic Communication Between Large Language Models (https://huggingface.co/papers/2510.03215)
- GitHub - thu-nics/C2C (https://github.com/thu-nics/C2C)
-
Cache-to-Cache: Direct Semantic Communication Between Large Language Models OpenReview (https://openreview.net/forum?id=LeatkxrBCi) - Cache-to-Cache: Direct Semantic Communication Between Large Language Models (https://arxiv.org/html/2510.03215v2)
- [2510.03215v1] Cache-to-Cache: Direct Semantic Communication Between Large Language Models (https://arxiv.org/abs/2510.03215v1)
- Cache-to-Cache(C2C): Direct Semantic Communication Between Large Language Models via KV-Cache Fusion - MarkTechPost (https://www.marktechpost.com/2025/11/04/cache-to-cachec2c-direct-semantic-communication-between-large-language-models-via-kv-cache-fusion/)
- Cache-to-Cache: Direct Semantic Communication Between Large (https://arxiv.org/pdf/2510.03215)
- ICLR Poster Cache-to-Cache: Direct Semantic Communication (https://iclr.cc/virtual/2026/poster/10010020)
- Cache-to-Cache: Direct Semantic Communication Between Large (https://liner.com/review/cachetocache-direct-semantic-communication-between-large-language-models)
- Cache-to-Cache (https://fuvty.github.io/C2C_Project_Page/)
-
Cache-to-Cache OpenTrain AI (https://www.opentrain.ai/papers/cache-to-cache-direct-semantic-communication-between-large-language-models–arxiv-2510.03215/) - Cache-to-Cache: Direct Semantic Communication Between Large (https://www.headlinne.com/articles/cache-to-cache-direct-semantic-communication-between-large-language-models-hacker-news)
- Cache-to-Cache (C2C): Direct Semantic Communication Between (https://aifuturefront.com/cache-to-cachec2c-direct-semantic-communication-between-large-language-models-via-kv-cache-fusion/)
- 能生成更長的文字
- 省略了中間的文字生成過程
- 能更快理解使用者的提問
- 通訊速度(延遲)提升兩倍以上
- AI 的功耗降低 10 倍
- 模型體積變小
- 透過網際網路傳輸資料
- 模型之間互相對話
- 透過神經網絡投射並融合 KV-Cache