AFlow: Automatisierung der Generierung agenter Workflows

Große Sprachmodelle (LLMs) haben ein bemerkenswertes Potenzial bei der Lösung komplexer Aufgaben in vielfältigen Domänen gezeigt, typischerweise durch den Einsatz agenter Workflows, die detaillierte Anweisungen und Ablaufsequenzen befolgen. Die Erstellung solcher Workflows erfordert jedoch erheblichen menschlichen Aufwand, was die Skalierbarkeit und Allgemeingültigkeit einschränkt. In jüngster Forschung wurde versucht, die Generierung und Optimierung dieser Workflows zu automatisieren, doch bestehende Methoden setzen weiterhin auf eine manuelle Initialisierung und erreichen nicht die vollständige Automatisierung und Effektivität der Workflow-Generierung. Um diese Herausforderung zu meistern, reformulieren wir die Workflow-Optimierung als Suchproblem über codebasierte Workflows, bei denen LLM-Aufrufknoten durch Kanten miteinander verbunden sind. Wir stellen AFlow vor, einen automatisierten Framework, der diesen Suchraum effizient mittels Monte-Carlo-Baum-Suche erkundet und Workflows iterativ durch Code-Modifikation, baumstrukturierte Erfahrung und Ausführungsfeedback verfeinert. Empirische Evaluierungen an sechs Benchmark-Datensätzen belegen die Wirksamkeit von AFlow und zeigen im Durchschnitt eine Verbesserung um 5,7 % gegenüber den aktuellen State-of-the-Art-Baselines. Zudem ermöglicht AFlow es kleineren Modellen, GPT-4o auf bestimmten Aufgaben bei nur 4,55 % der Inference-Kosten in Dollar zu überflügeln. Der Quellcode ist unter https://github.com/FoundationAgents/AFlow verfügbar.