Récupération hiérarchique par sommaire optimise le RAG
Les systèmes de génération augmentée par récupération (RAG) rencontrent souvent des limites face aux documents administratifs ou réglementaires extrêmement longs. L'approche conventionnelle consiste à intégrer chaque page dans un modèle d'intelligence artificielle et à chercher les résultats les plus similaires à une requête. Cette méthode échoue fréquemment lorsque le document possède un sommaire très étendu. Transmettre l'intégralité du sommaire dépasse les capacités contextuelles des modèles et entraîne des résultats imprécis, car les mots-clés génériques déclenchent de nombreuses correspondances non pertinentes. Pour résoudre ce problème, une nouvelle méthodologie appelée ingénierie de boucle pour la récupération hiérarchique a été développée. Elle s'appuie sur la structure même du document en parcourant son sommaire de manière descendante, niveau par niveau. Au lieu de fournir des milliers de lignes au modèle, le système lui présente uniquement le niveau actuel de navigation, par exemple une liste concise de titres accompagnés de leurs plages de pages. Le modèle d'intelligence artificielle évalue ces entrées compactes, identifie la branche pertinente et décide s'il est nécessaire de descendre plus profondément dans l'arborescence. Ce processus se répète itérativement jusqu'à atteindre une section précise ou un niveau suffisamment restreint pour être traité en entier. Cette approche offre plusieurs avantages techniques majeurs. En premier lieu, elle réduit drastiquement la consommation de ressources computationnelles et de tokens. Le modèle n'a jamais besoin de lire le sommaire complet ni l'ensemble du document. Il traite uniquement les sections pertinentes, ce qui permet de traiter des milliers de documents sans saturer les limites de contexte. En second lieu, la précision des réponses s'améliore significativement. Le router hiérarchique élimine le bruit causé par les mots-clés génériques en guidant directement le modèle vers la section exacte, comme le contrôle de gestion de compte spécifique dans un cadre de cybersécurité gouvernemental. Le mécanisme s'adapte également à différents types de requêtes. Il s'arrête automatiquement lorsqu'il identifie une feuille d'arborescence, une section suffisamment courte ou une demande nécessitant le contenu complet d'une rubrique. Pour les bases de documents plus vastes, cette logique peut être étendue à un niveau supplémentaire en ajoutant une couche de sélection de fichiers avant de descendre dans les sommaires individuels. Les développeurs peuvent reproduire cette méthode via des notebooks open source intégrés à des workflows RAG d'entreprise. En imitant la navigation experte plutôt que le traitement en vrac, cette technique représente une avancée notable pour le traitement automatisé des documents réglementaires volumineux. Elle garantit des réponses plus fiables tout en optimisant les coûts et la vitesse d'exécution des systèmes d'intelligence artificielle.
