Comment enrichir le contexte des LLM pour doubler leur efficacité avec des données pertinentes

L’objectif principal de cet article est de démontrer l’importance de fournir davantage de données pertinentes à un modèle linguistique à grande échelle (LLM) pour améliorer significativement ses performances, et de proposer des méthodes concrètes pour y parvenir. Après avoir lu cet article, vous devriez comprendre pourquoi les LLM sont extrêmement sensibles à la qualité et à la quantité des données dans leur contexte, comment extraire des données utiles à partir de vos propres systèmes ou via des requêtes dynamiques, et dans quels cas cela transforme réellement l’efficacité d’une application. Les LLM sont conçus pour fonctionner avec d’immenses volumes de données, notamment durant leur phase d’entraînement préalable où ils ingèrent des trillions de tokens provenant de sources comme l’intégralité d’Internet. Toutefois, cette capacité à absorber des données massives ne se limite pas à l’entraînement : elle reste cruciale pendant l’inférence, c’est-à-dire lorsqu’un utilisateur interagit avec le modèle en production. En ne fournissant pas au LLM l’ensemble des informations pertinentes disponibles, on limite artificiellement ses capacités. Par exemple, dans un système de question-réponse sur des documents, oublier d’inclure les noms de fichiers, les dates de création, les chemins d’accès ou les numéros de page peut entraîner des erreurs, surtout si l’utilisateur fait référence à ces éléments. Heureusement, de nombreuses données utiles sont déjà disponibles dans vos applications. Il s’agit souvent de métadonnées : type de fichier, taille, chemin d’accès, date de modification, numéro de page, ou encore balises internes. Ces éléments, bien que souvent ignorés, peuvent être essentiels pour le bon fonctionnement du modèle. Pour les systèmes visuels ou audio, des métadonnées comme le format d’image, la résolution, la durée du fichier, ou les balises audio peuvent également jouer un rôle clé. Lorsque les métadonnées existantes ne suffisent pas, deux stratégies s’imposent : l’extraction préalable ou la récupération à la demande. L’extraction préalable consiste à analyser les documents lors de leur ingestion pour extraire des informations structurées (par exemple, les dates, noms, lieux, type de document) à l’aide d’un LLM spécialisé. Cela permet de stocker ces données dans une base de données pour une utilisation ultérieure. Cette approche est efficace, mais nécessite de prédéfinir les informations à extraire, ce qui peut être limité dans des contextes dynamiques. La récupération à la demande, quant à elle, permet une flexibilité accrue. On peut définir une fonction que le LLM peut appeler en temps réel pour extraire une information spécifique à partir d’un texte donné. Par exemple, un prompt bien conçu peut demander au modèle d’extraire une date ou un nom dans un document. Cette méthode, utilisée par des systèmes comme ceux d’Anthropic, permet une réponse contextuelle et adaptative, mais augmente la consommation de jetons, ce qui nécessite une gestion rigoureuse du coût. Des applications concrètes illustrent l’impact de ces techniques : le filtrage par métadonnées dans les systèmes RAG (Retrieval-Augmented Generation) permet d’éviter de charger des fragments inutiles (ex. : des fichiers PDF quand l’utilisateur cherche des données Excel), améliorant ainsi la pertinence des réponses. De même, les agents IA capables d’effectuer des recherches sur Internet peuvent surmonter la limite de date d’entraînement des LLM, en récupérant des informations récentes en temps réel. En somme, enrichir le contexte d’un LLM avec des données pertinentes — qu’elles soient déjà présentes ou récupérées dynamiquement — est une clé pour débloquer son plein potentiel. Ignorer cette dimension équivaut à se priver d’une source essentielle de précision, de contexte et de pertinence. Évaluation par des experts : Des chercheurs comme Andrej Karpathy et les équipes de Meta et Google soulignent que la qualité du contexte est aussi importante que la taille du modèle. Selon les tests menés par des équipes de recherche, l’ajout de métadonnées bien structurées peut améliorer la performance des systèmes RAG de 30 à 50 %, selon le type de requête. Des entreprises comme Cohere, Pinecone et LangChain ont intégré ces principes dans leurs outils, démontrant que l’optimisation contextuelle est désormais une norme dans le développement d’IA performante.