HyperAIHyperAI

Command Palette

Search for a command to run...

vor 13 Tagen

ReCA: Integrierte Beschleunigung für Echtzeit- und effiziente kooperative körperhafte autonome Agenten

Zishen Wan Yuhang Du Mohamed Ibrahim Jiayi Qian Jason Jabbour Yang (Katie) Zhao Tushar Krishna Arijit Raychowdhury Vijay Janapa Reddi

ReCA: Integrierte Beschleunigung für Echtzeit- und effiziente kooperative körperhafte autonome Agenten

Abstract

Kooperative eingebettete Systeme, bei denen mehrere Agenten durch integrierte Wahrnehmung, Planung, Aktion und fortgeschrittenes Schließen mithilfe großer Sprachmodelle (LLMs) zusammenarbeiten, zeigen großes Potenzial, komplexe, langfristige und mehrzielige Aufgaben in realen Umgebungen zu bewältigen. Trotz der algorithmischen Fortschritte bleibt die Einsetzung eingebetteter Agenten auf aktuellen Systemen herausfordernd, da sie aufgrund langer Planungs- und Kommunikationsverzögerungen, begrenzter Skalierbarkeit und erhöhter Empfindlichkeit bei der Low-Level-Abwicklung zu erheblichen Systemineffizienzen führen. In dieser Arbeit wird ReCA vorgestellt, ein Charakterisierungs- und Co-Design-Rahmenwerk, das der Beschleunigung kooperativer eingebetteter Agentensysteme gewidmet ist und sowohl die Aufgabeneffizienz als auch die Systemskalierbarkeit verbessern soll. Auf algorithmischer Ebene ermöglicht ReCA eine effiziente lokale Modellverarbeitung, um die hohen Modellkosten zu verringern. Auf Systemebene präsentiert ReCA eine Dual-Speicher-Architektur mit integriertem Langzeit- und Kurzzeitgedächtnis, ein hierarchisches kooperatives Planungsschema mit zentraler und dezentraler Kooperation sowie eine planungsgeleitete Multi-Schritt-Ausführung, die eine hochgradig effiziente und skalierbare Berechnung kooperativer eingebetteter Agenten ermöglicht. Auf Hardwareebene setzt ReCA ein heterogenes Hardware-System ein, bestehend aus einer GPU-Subsystem für hochlevel-Planung und einem Beschleuniger-Subsystem für tieflevel-Planung, um eine effiziente und robuste Aufgabenausführung zu gewährleisten. In der Evaluierung über langfristige, mehrzielige Aufgaben zeigt ReCA eine hohe Generalisierbarkeit über Anwendungsszenarien und Systemgrößen und erreicht eine 4,3 %-ige Steigerung der erfolgreichen Missionen bei einer 10,2-fachen Beschleunigung im Vergleich zu den derzeit besten kooperativen, autonomen eingebetteten Agentensystemen.

KI mit KI entwickeln

Von der Idee bis zum Start — beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und den besten GPU-Preisen.

KI-Co-Coding
Sofort einsatzbereit GPUs
Beste Preise
Jetzt starten

Hyper Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
ReCA: Integrierte Beschleunigung für Echtzeit- und effiziente kooperative körperhafte autonome Agenten | Forschungsarbeiten | HyperAI