Traditionelle Retrieval-Augmented-Generation-Systeme stoßen bei komplexen Anfragen oft an Grenzen, da semantische Similarity-Suche relevante Kontexte häufig nicht präzise erfasst oder wichtige Informationen auf mehrere Textabschnitte verteilt werden. Um diese Limitierungen zu überwinden, entwickelt sich Agentic RAG zu einer alternativen Architektur, bei der KI-Agenten den Abrufprozess iterativ steuern. Statt auf einen einmaligen Lesezugriff zu setzen, können die Modelle eigenständig suchen, Inhalte auswerten, den Informationsbedarf prüfen und bei Unzulänglichkeit gezielt nach weiteren Belegen suchen. Ein praktisches Beispiel verdeutlicht den Ansatz anhand eines internen Policy-Forschungsassistenten, der mit der OpenAI Agents SDK implementiert wird. Das System greift auf drei klar definierte Werkzeuge zurück: eine Dokumentenübersicht, eine Schlüsselwortsuche und eine Funktion zum vollständigen Lesen einzelner Dateien. Bei einer konkreten Anfrage zur Hotelbuchung bei einer Konferenz in Berlin durchläuft der Agent einen mehrstufigen Prozess. Er identifiziert zunächst relevante Richtlinien, prüft genehmigungsrelevante Schwellenwerte und verknüpft Informationen aus mehreren Quelldokumenten, bevor er eine fundierte Antwort formuliert. Diese schrittweise Evidenzsammlung ermöglicht deutlich präzisere Ergebnisse als statische Retrievalmechanismen. Für den produktiven Einsatz empfehlen Expert:innen jedoch eine durchdachte Architekturplanung. Zuerst sollte der Aktionsradius der Agenten klar eingegrenzt werden, um Kontrollverlust und unvorhersehbare Fehler zu vermeiden. Breiter Zugriff auf Dateisysteme oder Shell-Befehle erhöht zwar die Flexibilität, erfordert aber strenge Sicherheitsmaßnahmen. Darüber hinaus lohnt sich der Aufbau einer abgeleiteten Wissensebene aus Metadaten, Zusammenfassungen oder Knowledge Graphs, um die Navigation durch große Dokumentenbestände zu beschleunigen. Vektor-Einbettungen bleiben dabei weiterhin sinnvoll, da sie semantische Treffer oft effektiver liefern als reine Schlüsselwortabfragen. Die Entscheidung für Agentic RAG ist nicht bei jedem Use Case gerechtfertigt. Der iterative Suchprozess führt zu höherer Latenz, größeren Token-Kosten und einer komplexeren Ergebnisprognose. Bei einfachen, direkt abfragbaren Informationen reicht klassisches RAG weiterhin aus. Bei komplexen, mehrstufigen Forschungsaufgaben kann jedoch eine Aufteilung in spezialisierte Agenten etwa für Planung, Abruf und Formatierung die Leistung steigern, wenn auch mit höherem Koordinationsaufwand. Insgesamt markiert Agentic RAG einen strategischen Wechsel von passiven Datenabrufen hin zu aktiven, zielgerichteten Recherchesystemen, die bei sorgfältiger Implementierung die Genauigkeit und Anpassungsfähigkeit von KI-gestützten Wissensanwendungen erheblich stärken.