ReCA: Integrierte Beschleunigung für Echtzeit- und effiziente kooperative körperhafte autonome Agenten
Zishen Wan Yuhang Du Mohamed Ibrahim Jiayi Qian Jason Jabbour Yang (Katie) Zhao Tushar Krishna Arijit Raychowdhury Vijay Janapa Reddi

Abstract
Kooperative eingebettete Systeme, bei denen mehrere Agenten durch integrierte Wahrnehmung, Planung, Aktion und fortgeschrittenes Schließen mithilfe großer Sprachmodelle (LLMs) zusammenarbeiten, zeigen großes Potenzial, komplexe, langfristige und mehrzielige Aufgaben in realen Umgebungen zu bewältigen. Trotz der algorithmischen Fortschritte bleibt die Einsetzung eingebetteter Agenten auf aktuellen Systemen herausfordernd, da sie aufgrund langer Planungs- und Kommunikationsverzögerungen, begrenzter Skalierbarkeit und erhöhter Empfindlichkeit bei der Low-Level-Abwicklung zu erheblichen Systemineffizienzen führen. In dieser Arbeit wird ReCA vorgestellt, ein Charakterisierungs- und Co-Design-Rahmenwerk, das der Beschleunigung kooperativer eingebetteter Agentensysteme gewidmet ist und sowohl die Aufgabeneffizienz als auch die Systemskalierbarkeit verbessern soll. Auf algorithmischer Ebene ermöglicht ReCA eine effiziente lokale Modellverarbeitung, um die hohen Modellkosten zu verringern. Auf Systemebene präsentiert ReCA eine Dual-Speicher-Architektur mit integriertem Langzeit- und Kurzzeitgedächtnis, ein hierarchisches kooperatives Planungsschema mit zentraler und dezentraler Kooperation sowie eine planungsgeleitete Multi-Schritt-Ausführung, die eine hochgradig effiziente und skalierbare Berechnung kooperativer eingebetteter Agenten ermöglicht. Auf Hardwareebene setzt ReCA ein heterogenes Hardware-System ein, bestehend aus einer GPU-Subsystem für hochlevel-Planung und einem Beschleuniger-Subsystem für tieflevel-Planung, um eine effiziente und robuste Aufgabenausführung zu gewährleisten. In der Evaluierung über langfristige, mehrzielige Aufgaben zeigt ReCA eine hohe Generalisierbarkeit über Anwendungsszenarien und Systemgrößen und erreicht eine 4,3 %-ige Steigerung der erfolgreichen Missionen bei einer 10,2-fachen Beschleunigung im Vergleich zu den derzeit besten kooperativen, autonomen eingebetteten Agentensystemen.
KI mit KI entwickeln
Von der Idee bis zum Start — beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und den besten GPU-Preisen.