Le recours au RAG pour traiter des données structurées et effectuer des calculs statistiques s'avère être une source majeure d'erreurs silencieuses. Récemment, un développeur de la startup EmiTechLogic a démontré que l'augmentation de la capacité de contexte d'un modèle de langage n'améliore pas la précision des agrégations, mais renforce au contraire une fausse confiance. Dans un système RAG classique, les lignes d'un fichier sont converties en texte brut et seules les parties les plus pertinentes sont récupérées. Lorsqu'une requête demande une somme ou une moyenne, le modèle reçoit un échantillon partiel et tente de déduire un résultat global. Les tests ont révélé un phénomène appelé Effondrement de l'observabilité des erreurs : plus la fenêtre de contexte s'agrandit, plus la réponse devient détaillée et structurée, mais pas plus exacte. Un modèle peut ainsi générer un rapport professionnel couvrant moins de dix pour cent des données réelles, rendant l'erreur difficilement détectable sans vérification externe. Pour résoudre ce problème, l'auteur propose une architecture en deux étapes combinant un routeur de requêtes et un moteur sémantique. Le routeur analyse chaque demande entrante et la classe selon trois critères. Les verbes d'agrégation et les comparaisons numériques sont dirigés vers un moteur de calcul déterministe, tandis que les requêtes de recherche sémantique continuent d'utiliser le RAG. Le moteur sémantique ne s'appuie ni sur l'inférence ni sur la récupération vectorielle. Il exécute un seul parcours complet sur l'ensemble des données pour appliquer les opérations mathématiques directement. Lors des tests sur un jeu de données de 100 000 lignes, cette approche a garanti une exactitude totale pour les requêtes d'agrégation, avec une latence moyenne inférieure à deux cents millisecondes. Les requêtes de recherche sont quant à elles traitées avec succès par le pipeline RAG, confirmant que cette technologie reste idéale pour l'extraction d'informations ponctuelles. Cette solution, désormais ouverte sur GitHub, souligne que le RAG n'est pas défectueux, mais mal utilisé. En détournant les requêtes computationnelles d'un système conçu pour la similarité textuelle, les développeurs peuvent éliminer les approximations convaincantes et garantir des résultats déterministes. L'ajout d'une couche de classification ajoute une surcharge minime, mais transforme radicalement la fiabilité des assistants analytiques alimentés par l'intelligence artificielle.