Rekursive Sprachmodelle (RLMs) gewinnen in Benchmarks für lange Kontexte an Bedeutung, da sie eine neue Architektur für autonome Agenten darstellen. Im Gegensatz zu herkömmlichen Methoden wie ReAct oder CodeAct lösen RLMs das Problem der Kontextüberlastung, indem sie den Kontext nicht replizieren, sondern durch Verweis und selektives Laden verwalten. Diese Architektur ermöglicht es Modellen, komplexe Aufgaben zu bewältigen, die über die Kapazität des eigenen Kontextfensters hinausgehen, ohne auf den langsamen oder fehleranfälligen Prozess der tokenweisen Generierung oder manueller Tools angewiesen zu sein. Bei traditionellen Ansätzen wie ReAct (Reasoning and Acting) muss der Agent vordefinierte Funktionen nutzen und die Ergebnisse oft wieder aus dem Gedächtnis abrufen, was zu Übertragungsfehlern führt. CodeAct erlaubt es dem Modell, eigenständig Code zu schreiben, was flexibler ist, aber das Problem bleibt bestehen: Der Agent muss die Ergebnisse aus einer langen Verlaufshistorie reproduzieren. Selbst die Kombination aus CodeAct und Unteragenten oder Dateisystemen hat Grenzen, da Informationen oft manuell zwischen den Komponenten weitergegeben und im Kontextfenster zwischengespeichert werden müssen, was den Speicherbedarf erhöht. RLMs überwinden diese Barrieren durch ein System, das einer interaktiven Python-Entwicklungsumgebung (REPL) ähnelt. Der Hauptagent erhält Zugriff auf eine Variable namens context, die den gesamten Eingabetext enthält. Anstatt den gesamten Text auf einmal zu lesen, analysiert das Modell diesen schrittweise, indem es spezifische Teile in das Gedächtnis lädt. Es kann Variablen erstellen, Zwischenergebnisse speichern und diese direkt nutzen, ohne sie wiederholen zu müssen. Dies ermöglicht beliebig lange Ausgaben, da das Ergebnis nicht tokenweise generiert, sondern als Python-Objekt im Speicher aufgebaut wird. Ein entscheidender Unterschied liegt in der Verwendung von llm_query, einer Funktion, die es dem Hauptagenten erlaubt, rekursiv Unteragenten zu starten. Im Gegensatz zu früheren Subagenten-Architekturen erhalten diese Unteragenten nicht nur die Aufgabe, sondern können auch spezifische Datenabschnitte aus der Hauptkontextvariablen laden. Die Ergebnisse der Unteragenten werden als Datenstrukturen (wie Listen oder Dictionaries) zurückgegeben und können vom Hauptagenten weiterverarbeitet werden. Dies ermöglicht eine parallele Ausführung und eine effiziente Aufteilung komplexer Aufgaben in kleinere, unabhängige Schritte. Die Effizienz von RLMs basiert auf mehreren Faktoren. Erstens wird durch die selektive Aufmerksamkeit der Kontext nicht für alle Token gleichzeitig verarbeitet, sondern gezielt geladen, was die Rechenlast reduziert. Zweitens nutzt die Architektur die Vorteile von KV-Caches für Unteragenten, da deren Systemaufforderungen und vergangenen Nachrichten stabil bleiben. Drittens ermöglicht die Trennung von Planung und Ausführung die Nutzung unterschiedlicher Modelle für verschiedene Aufgaben, was Kosten und Leistung optimiert. Die Methode ist besonders robust bei großen Datenmengen, da sie irrelevante Informationen ignorieren und sich auf relevante Abschnitte konzentrieren kann. Die praktische Anwendung zeigt, dass RLMs Aufgaben wie die Analyse von Texten mit Millionen von Token oder die Verarbeitung mehrerer Dokumentenklassen effizient bewältigen können. Durch die Möglichkeit, Zwischenergebnisse in Variablen zu speichern und schrittweise zu verfeinern, vermeiden sie die Fehleranfälligkeit rein textbasierter Generierungsmethoden. Diese Architektur markiert einen wichtigen Fortschritt in der Entwicklung autonomer KI-Systeme, die in der Lage sind, langfristige Abhängigkeiten und komplexe logische Schlussfolgerungen in Echtzeit zu verarbeiten, ohne an die Grenzen aktueller Kontextfenster zu stoßen.