La plupart des hallucinations des grands modèles de langage dans les systèmes RAG ne proviennent pas du générateur, mais d'échecs de l'étape de récupération d'information. Cette prise de conscience modifie l'approche classique des équipes techniques qui, face à une réponse erronée, cherchent souvent à ajuster le prompt ou à augmenter la puissance du modèle. En réalité, c'est la récupération qui détermine le champ des possibles du système. Pour illustrer ce phénomène, une analyse a été menée sur un pipeline RAG basique appliqué au cadre de cybersécurité NIST v1.1, un document structuré de cinquante-cinq pages. Face à la question sur les bonnes pratiques de sauvegarde post-attaque ransomware, un système reposant uniquement sur la similarité cosinus a classé la page contenant la réponse au cinquante-cinquième rang sur cinquante-cinq. Le problème réside dans la nature des embeddings vectoriels : ils mesurent la similarité sémantique globale, noyant ainsi les termes clés précis au milieu du texte environnant. La récupération par simple similarité de vecteur manque de précision pour les documents d'entreprise structurés. Trois scénarios d'échec de récupération expliquent la majorité des hallucinations observées. Le premier survient lorsque la réponse pertinente n'est tout simplement pas récupérée, poussant le modèle à combler le vide par ses connaissances pré-entraînement. Le second implique la récupération d'un passage plausible mais incorrect, qui trompe les reviseurs humains grâce à des références techniques réelles mais mal alignées. Le troisième cas se produit lorsque la bonne information est noyée parmi des distracteurs contextuels, provoquant une confusion dans la sélection des données par le modèle. Dans ces trois situations, le générateur ne fait qu'exécuter sa tâche sur un contexte fourni, ce qui explique pourquoi l'erreur est systématiquement imputée à la génération plutôt qu'à la récupération. Contourner ce problème exige une refonte de la stratégie d'extraction. Au lieu de privilégier les modèles d'embedding plus volumineux, il convient d'ancrer la recherche sur des signaux robustes aux variations de vocabulaire, comme la correspondance lexicale ciblée, l'analyse de la structure hiérarchique du document ou le vote parallèle de plusieurs indicateurs. Une fois l'information pertinente identifiée, le contexte fourni au modèle doit être strictement limité aux passages nécessaires pour éliminer le bruit contextuel. Pour renforcer cette architecture, les développeurs intègrent désormais un mécanisme de contrat de réponse. Ce deuxième niveau de défense oblige le modèle à fournir une valeur, une citation contextuelle et un indice de confiance, permettant de filtrer les réponses non étayées avant leur diffusion. Cette approche démontre que la fiabilité d'un système RAG dépend avant tout de la précision de sa récupération. Ajuster les prompts ou scaler les modèles ne compensera pas une étape d'extraction défaillante. La solution réside dans un pipeline de récupération hybride, précis et contextuellement maîtrisé.