GTool: Graphenverstärkte Werkzeugplanung mit großem Sprachmodell

Die Planung von Tools mittels großen Sprachmodellen (LLMs), also die Auswahl, Organisation und Vorbereitung der zur Erfüllung einer Benutzeranfrage erforderlichen Werkzeuge, schließt die Lücke zwischen der Verständnisfähigkeit natürlicher Sprache und der Ausführung von Aufgaben. Allerdings betrachten derzeitige Ansätze verschiedene Werkzeuge als isolierte Komponenten und nutzen deren inhärente Abhängigkeiten nicht aus, was zu ungültigen Planungsergebnissen führt. Da Werkzeugabhängigkeiten oft unvollständig sind, ist es für LLMs besonders schwierig, die tatsächlich benötigten Werkzeuge präzise zu identifizieren, insbesondere bei großen Werkzeugkatalogen. Um dieses Problem zu lösen, stellen wir GTool vor, das erste Verfahren, das darauf abzielt, die Fähigkeit von LLMs zur Werkzeugplanung unter unvollständigen Abhängigkeiten zu verbessern. GTool erstellt einen an die Anfrage angepassten Werkzeuggraphen, um Werkzeuge effizient auszuwählen und den zu generieren, der ausreichend Abhängigkeitsinformationen enthält, die von LLMs verständlich sind. Zudem wird eine Aufgabe zur Vorhersage fehlender Abhängigkeiten entworfen, um die Zuverlässigkeit von GTool unter unvollständigen Abhängigkeiten zu erhöhen. Ohne die LLMs zu modifizieren, kann GTool nahtlos mit verschiedenen LLM-Backbones integriert werden, ohne umfangreiche Neutrainings erforderlich zu machen. Umfangreiche Experimente zeigen, dass GTool gegenüber den aktuellen Stand der Technik (SOTA) bei Verwendung eines leichtgewichtigen (7B) LLM-Backbones eine Verbesserung der Leistung um mehr als 29,6 % erreicht.