RAG : privilégier le filtrage structuré au cosinus
Une nouvelle approche du RAG, ou génération augmentée par récupération, remet en question les méthodes conventionnelles de recherche de documents. Loin de la séquence standard qui consiste à fragmenter un texte, à le convertir en vecteurs et à classer les résultats par similarité cosinus, cette méthode propose de traiter la récupération comme un filtrage structuré. Dans un contexte professionnel, cette révision vise à améliorer la précision, l'auditabilité et la maîtrise des coûts. L'approche traditionnelle souffre de limites reconnues. En morcelant les documents et en s'appuyant uniquement sur des similarités vectorielles, elle ignore la structure intrinsèque des textes, génère des résultats opaques et oblige à retourner systématiquement des fragments, même lorsque la réponse est absente. Le classement par score continu empêche également une vérification fiable des conditions de recherche à long terme. Pour y remédier, les auteurs proposent un système à trois signaux fonctionnant sur des données structurées, notamment au niveau des lignes de texte et de la table des matières. En premier lieu, le filtrage par mots-clés s'exécute systématiquement. Il est déterministe, rapide et permet de confirmer avec certitude l'absence d'une information. En second lieu, un modèle de langage analyse la table des matières pour identifier les sections pertinentes, captant ainsi les paraphrases que la recherche par sous-chaîne manquerait. Enfin, les embeddings vectoriels ne sont sollicités qu'en dernier recours, uniquement en cas de divergence de vocabulaire entre la requête et le document. Cette architecture repose sur plusieurs principes clés. Elle distingue clairement l'ancrage, c'est-à-dire la ligne exacte contenant la réponse, du contexte élargi nécessaire à la génération, préservant ainsi précision et cohérence. Elle privilégie la cooccurrence de termes sur de petits corpus, démontrant une efficacité supérieure à l'algorithme BM25 classique pour extraire des valeurs spécifiques. Elle transforme enfin la recherche en un processus de jointure structurelle, remplaçant la navigation dans des milliers de fragments par une application de conditions logiques transparentes et reproductibles. Les résultats observés dans divers secteurs, comme la finance, l'assurance ou la santé, confirment l'efficacité de cette hiérarchie. Là où les méthodes vectorielles consomment des ressources et génèrent du bruit, le nouveau pipeline résout la majorité des requêtes en quelques millisecondes via des mots-clés et la table des matières. Les embeddings ne prennent le relais que lorsque c'est strictement nécessaire, optimisant ainsi l'utilisation des tokens et réduisant les coûts d'inférence. Cette méthodologie privilégie la transparence et le contrôle sur l'opacité des modèles vectoriels. En structurant la recherche au lieu de la confier entièrement à l'analyse sémantique, elle permet d'obtenir des résultats plus fiables et entièrement traçables. Le code source accompagnant cette réflexion est mis à disposition publiquement pour permettre aux développeurs et aux organisations de tester et d'intégrer ce pipeline dans leurs environnements de travail.
