Optimiser les prompts des modèles de langage (LLM) est essentiel pour réduire les coûts, améliorer la latence et renforcer la qualité des réponses. Depuis le lancement de ChatGPT en 2022, l’adoption des LLM s’est accélérée, mais de nombreuses applications restent sous-optimisées. En appliquant quatre techniques concrètes, il est possible d’obtenir des gains significatifs avec peu d’effort. La première technique consiste à placer le contenu statique en début de prompt. Les grands fournisseurs comme OpenAI, Anthropic et Google utilisent un mécanisme de cachage des tokens : lorsque les premiers tokens d’un prompt sont identiques à ceux d’une requête précédente, ils sont traités plus rapidement et à un coût réduit (jusqu’à 10 % du prix normal). Pour tirer parti de ce mécanisme, il faut structurer le prompt en plaçant d’abord les parties fixes (comme les instructions système ou le contexte documentaire) avant les éléments variables (comme la question de l’utilisateur). Par exemple : prompt = f"{system_prompt}{document_content}{user_question}" Si le même document est traité plusieurs fois, en gardant son contenu en début de prompt, les tokens associés seront mis en cache. Attention : ce cachage fonctionne généralement uniquement si les 1024 premiers tokens sont identiques entre deux requêtes. La deuxième technique est de placer la question de l’utilisateur à la fin du prompt. Cette structure, recommandée par Anthropic, améliore la clarté de la tâche pour le modèle, ce qui peut augmenter la performance de jusqu’à 30 %, surtout dans les contextes longs. En séparant clairement les instructions générales du système de la question spécifique, le modèle comprend mieux l’objectif à atteindre. La troisième approche est d’utiliser un optimiseur de prompt. Les prompts rédigés par des humains sont souvent redondants, mal structurés ou peu précis. En envoyant un prompt brut à un LLM (ou à un outil d’optimisation dédié, comme ceux proposés par OpenAI ou Anthropic), on obtient une version plus concise, claire et efficace. En incluant des éléments comme le but, le public cible ou des exemples, l’optimisation produit des résultats encore meilleurs. Ce processus, qui prend 10 à 15 minutes, représente un retour sur investissement élevé. Enfin, la quatrième technique est de mettre en place des benchmarks spécifiques pour les LLM. Chaque modèle (Gemini, GPT, Claude, etc.) excelle dans des tâches différentes. Il est crucial de tester plusieurs modèles sur votre cas d’usage réel, en mesurant la qualité, la latence et le coût. Un benchmark régulier permet d’identifier les améliorations de performance liées aux mises à jour des modèles, et d’adopter rapidement les nouvelles versions. En combinant ces quatre techniques — structuration pour le cachage, question en fin de prompt, optimisation automatique et benchmarking — les développeurs peuvent améliorer de manière significative l’efficacité de leurs applications LLM, tout en maîtrisant les coûts et la latence. Ces pratiques, bien que simples, sont souvent négligées, alors qu’elles offrent un potentiel d’amélioration élevé avec un effort minimal.