HyperAIHyperAI

Command Palette

Search for a command to run...

Cache-to-Cache (C2C)

Datum

vor 2 Monaten

Organisation

Die Chinesische Universität von Hongkong

Paper-URL

2510.03215

Cache-to-Cache (C2C) wurde im Oktober 2025 von einem Forschungsteam der Tsinghua-Universität, der Chinesischen Universität Hongkong und anderer Universitäten und Institutionen, darunter Wuwenxinqiong, vorgeschlagen. Die entsprechenden Forschungsergebnisse wurden in der Publikation „Cache-zu-Cache: Direkte semantische Kommunikation zwischen großen Sprachmodellen".

C2C ist ein neuartiges Paradigma für die direkte semantische Kommunikation zwischen LLMs. Es nutzt ein neuronales Netzwerk, um den Schlüssel-Wert-Cache des Quellmodells in den Cache des Zielmodells zu projizieren und zu fusionieren und so eine direkte semantische Übertragung zu ermöglichen. Im Vergleich zur Textkommunikation nutzt C2C die tiefgreifende, spezialisierte Semantik beider Modelle und vermeidet die explizite Generierung von Zwischentexten. Dadurch stellt es eine praktikable Alternative zur tokenbasierten Kommunikation dar und unterstreicht sein Potenzial in skalierbaren Multi-LLM-Systemen mit geringer Latenz.

(a) T2T; (b) C2C

KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp