HyperAIHyperAI

Command Palette

Search for a command to run...

Cache-to-Cache (C2C)

Date

vor 2 Monaten

Organization

Die Chinesische Universität von Hongkong

Paper URL

2510.03215

Cache-to-Cache (C2C) wurde im Oktober 2025 von einem Forschungsteam der Tsinghua-Universität, der Chinesischen Universität Hongkong und anderer Universitäten und Institutionen, darunter Wuwenxinqiong, vorgeschlagen. Die entsprechenden Forschungsergebnisse wurden in der Publikation „Cache-zu-Cache: Direkte semantische Kommunikation zwischen großen Sprachmodellen".

C2C ist ein neuartiges Paradigma für die direkte semantische Kommunikation zwischen LLMs. Es nutzt ein neuronales Netzwerk, um den Schlüssel-Wert-Cache des Quellmodells in den Cache des Zielmodells zu projizieren und zu fusionieren und so eine direkte semantische Übertragung zu ermöglichen. Im Vergleich zur Textkommunikation nutzt C2C die tiefgreifende, spezialisierte Semantik beider Modelle und vermeidet die explizite Generierung von Zwischentexten. Dadurch stellt es eine praktikable Alternative zur tokenbasierten Kommunikation dar und unterstreicht sein Potenzial in skalierbaren Multi-LLM-Systemen mit geringer Latenz.

(a) T2T; (b) C2C

Build AI with AI

From idea to launch — accelerate your AI development with free AI co-coding, out-of-the-box environment and best price of GPUs.

AI Co-coding
Ready-to-use GPUs
Best Pricing

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
Cache-to-Cache (C2C) | Wiki | HyperAI