Aktuelle Untersuchungen zum Retrieval-Augmented Generation (RAG) widerlegen den weit verbreiteten Ansatz, dass Halluzinationen in generativen Modellen primär auf mangelhafte Prompting-Strategien oder unzureichende Modellgrößen zurückzuführen sind. Stattdessen belegt eine detaillierte technische Analyse, dass der Großteil der problematischen Ausgaben auf versagende Retrieval-Mechanismen zurückgeht. Da die Abfrageebene bestimmt, welche Dokumentpassagen dem KI-System überhaupt zur Verfügung stehen, definiert sie den Wissensrahmen, innerhalb dessen das Modell antworten kann. In einem reproduzierbaren Test am NIST-Cybersecurity-Framework v1.1 wurde eine Standard-RAG-Pipeline mit einem lokalen Einbettungsmodell evaluiert. Trotz eines klaren Schlüsselbegriffs in der Suchanfrage klassifizierte das Kosinus-Ähnlichkeitsverfahren die korrekte Informationsseite als letzte von fünfzigfünf Dokumentblöcken. Dagegen platzierte eine einfache Schlagwortzählung die relevante Passage sofort an erster Stelle. Dieser Befund untermauert die These, dass rein vektorbasierte Ähnlichkeitsmessungen bei strukturierten Unternehmensdokumenten an Grenzen stoßen, da sie fachlich präzise, aber wörterbuchmäßig unterschiedliche Fachbegriffe systematisch verwischen. Die Analyse identifiziert drei spezifische Retrieval-Versagensmuster, die regelmäßig fälschlich als Modellhalluzinationen dokumentiert werden. Erstens fehlt die relevante Information vollständig im abgerufenen Kontext, sodass das Modell aus statistischen Trainingsmustern füllt. Zweitens werden plausible, aber inhaltlich falsche Passagen priorisiert, die aufgrund oberflächlicher Semantik fälschlich als relevant erscheinen. Drittens wird die korrekte Antwort in einer Tabelle von ähnlichen Steuerungsvorgaben begraben, was das Modell zur Verallgemeinerung zwingt. In allen drei Szenarien führt das Abrufen weiterer Dokumente die Problematik nicht, sondern verstärkt sie durch kontextuelles Rauschen. Als wirksame Architekturstrategie wird ein Upstream-Ansatz empfohlen. Statt die Generierungskomponente durch strengere Instruktionen oder größere Modelle zu optimieren, sollte die Retrieval-Pipeline auf hybride Ankerpunkte umgestellt werden. Deren Kombination aus expertengeprüften Schlagwörtern, dokumentinterner Hierarchie und vektorbasiertem Voting filtert die Abfrage präziser. Anschließend muss der Kontext streng auf den relevanten Subkontext begrenzt werden, um störende Distraktoren auszuschließen. Als zusätzliche Sicherheitsebene wird die Implementierung eines typisierten Antwortvertrags empfohlen, der das Modell zwingt, Belegstellen und Konfidenzwerte auszuweisen, bevor eine Ausgabe zugestellt wird. Diese Erkenntnisse verlagern den Fokus der RAG-Entwicklung von der Generierungstunung auf die Datenbeschaffung. Die vorgestellten Messverfahren und Quellcodes stehen öffentlich verfügbar und ermöglichen Entwicklern die unabhängige Validierung der Retrieval-Performance. Für Unternehmen, die große Dokumentenbestände mit generativer KI auswerten, bedeutet dies einen Paradigmenwechsel: Die Zuverlässigkeit von RAG-Systemen hängt nicht von der Intelligenz des Modells ab, sondern von der Präzision der vorgeschalteten Suchlogik.