Retrieval-Augmented Generation (RAG) hat sich in den letzten zwei Jahren von einer beliebten Lösung für den Zugriff auf Unternehmensdaten zu einem zentralen Baustein einer viel umfassenderen Disziplin entwickelt: Context Engineering. Ursprünglich entstanden, um die begrenzte Kontextfenster von LLMs zu überwinden, war RAG eine Antwort auf die Erkenntnis, dass KI-Modelle nicht automatisch über interne Unternehmensdaten verfügen. Mit dem Aufkommen von ChatGPT und der Etablierung von Tools wie LangChain und LlamaIndex wurde RAG schnell zur Standardarchitektur für enterprise AI. Doch bald zeigte sich, dass einfache Vektor-Suche und das direkte Einbinden von Textfragmenten in den Prompt zu Problemen wie „Context Poisoning“, „Context Confusion“ und übermäßiger Latenz führen kann. Diese Schwächen machten deutlich, dass RAG allein nicht ausreicht, wenn KI-Systeme autonom agieren sollen. Die Antwort darauf war die Evolution zu GraphRAG, bei der Wissensgraphen als strukturierte Datenquelle dienen, um Entitäten und deren Beziehungen semantisch zu verarbeiten. Dies ermöglicht präzisere, erklärbare und kontextbewusste Antworten. Die Bedeutung von Wissensgraphen wurde durch bedeutende Unternehmensakquisitionen unterstrichen: Progress kaufte MarkLogic, Samsung erwarb Oxford Semantic Technologies, Ontotext und Semantic Web Company fusionierten zu Graphwise, und ServiceNow integrierte data.world in seine Plattform. Diese Bewegungen zeigen, dass Wissensgraphen nicht länger nur Metadaten-Tools sind, sondern zum semantischen Rückgrat für agente-basierte KI werden. Mit dem Aufkommen agenter KI-Systeme verlagert sich die Aufmerksamkeit von einer einmaligen Retrieval-Operation hin zu einem iterativen Prozess, der als Context Engineering bezeichnet wird. Dieser Ansatz umfasst nicht nur das Abrufen von Kontext, sondern auch das Schreiben, Komprimieren, Isolieren und Selektieren von Informationen über mehrere Schritte hinweg. Agenten müssen kontextuell relevantes Wissen aus verschiedenen Quellen – relationalen Datenbanken, Dokumenten, Tools, Speichern und sogar multimodalen Daten wie Bildern oder Audio – zusammensuchen und bewerten. Hierbei spielen semantische Layer eine entscheidende Rolle: Sie standardisieren Datenbedeutung, Governance und Metadaten über alle Datenformate hinweg, wodurch Mensch und Maschine konsistent über Daten kommunizieren können. Die Zukunft der Retrieval-Technologie liegt nicht mehr in der bloßen Geschwindigkeit oder Genauigkeit, sondern in der Relevanz, Grundlage (groundedness), Herkunft (provenance), Abdeckung und Aktualität des Kontexts. Frameworks wie Ragas, LangSmith und Databricks Mosaic AI bieten bereits Evaluationsmetriken, die über bloße Antwortgenauigkeit hinausgehen. Gleichzeitig wächst die Notwendigkeit von Policy-as-Code, um Zugriffsrechte, Compliance und regulatorische Anforderungen in agente-basierte Workflows zu integrieren – ein Bereich, in dem Open Policy Agent und Oso bereits Fortschritte machen. Insgesamt ist RAG nicht tot, sondern transformiert. Es ist zum Kern einer neuen Disziplin geworden, die Context Engineering umfasst – eine Kombination aus Retrieval, Reasoning, Memory Management und Tool-Integration. Die entscheidenden Treiber dieser Entwicklung sind Wissensgraphen, semantische Layer und eine tiefere Integration von Daten-Governance in KI-Systeme. Unternehmen, die in dieser neuen Ära erfolgreich sein wollen, müssen nicht nur Technologie, sondern auch semantische Struktur und Governance als strategische Säulen betrachten. In der Praxis bedeutet dies, dass Data- und AI-Führungskräfte nicht mehr nur nach „besseren Retrieval-Methoden“ suchen, sondern nach ganzheitlichen Systemen, die kontextbewusst, politikbewusst und semantisch fundiert agieren. Die nächste Generation von KI-Systemen wird nicht nur intelligenter, sondern auch vertrauenswürdiger – und das ist der Schlüssel für die breite Einführung von agenter KI in regulierten und komplexen Unternehmensumgebungen.