Pouya Hamadanian Pantea Karimi Arash Nasr-Esfahany Kimia Noorbakhsh Joseph Chandler Ali ParandehGheibi Mohammad Alizadeh Hari Balakrishnan

Abstract

Kann eine KI eigenständig Mechanismen für Computersysteme entwickeln, die der Kreativität und dem logischen Denken menschlicher Experten gleichkommen? Wir stellen Glia vor, eine KI-Architektur für die Gestaltung netzwerkbasierter Systeme, die große Sprachmodelle (LLMs) in einem menschenähnlichen, multiagenten Workflow einsetzt. Jeder Agent spezialisiert sich auf Schlussfolgern, Experimentieren und Analyse und kooperiert über einen Bewertungsrahmen, der abstraktes Denken durch empirische Rückmeldungen fundiert. Im Gegensatz zu früheren Ansätzen der maschinellen Lernens für Systeme, die schwarze Kisten-Politiken optimieren, generiert Glia interpretierbare Designs und macht seinen Entscheidungsprozess transparent. Bei der Anwendung auf einen verteilten GPU-Cluster zur Inferenz großer Sprachmodelle (LLMs) entwickelt sie neue Algorithmen für Anfrage-Routing, Scheduling und Auto-Scaling, die menschlichen Experten auf höchstem Niveau entsprechen – und das in deutlich kürzerer Zeit, während zugleich neue Erkenntnisse über das Arbeitslastverhalten gewonnen werden. Unsere Ergebnisse deuten darauf hin, dass eine KI durch die Kombination von Schlussfolgerungs-LLMs mit strukturiertem Experimentieren kreative und verständliche Lösungen für komplexe Systemprobleme liefern kann.