CriSPO : Optimisation automatique de prompts guidée par des critiques et suggestions multi-aspects pour la génération de texte

Les méthodes actuelles d'ingénierie de prompts automatiques sont généralement conçues pour des tâches discriminatives, où les nouveaux prompts de tâche sont affinés itérativement avec un feedback limité provenant d'une seule métrique reflétant un seul aspect. Cependant, ces approches sont sous-optimales pour les tâches génératives, qui nécessitent une orientation plus nuancée au-delà d'une simple métrique numérique pour améliorer le prompt et optimiser plusieurs aspects du texte généré. Pour relever ces défis, nous proposons une nouvelle approche d'optimisation automatique de prompts guidée par la critique et les suggestions (CriSPO). CriSPO introduit un module critique-suggestion comme composant central. Ce module découvre spontanément des aspects et compare les textes générés et de référence selon ces aspects, fournissant des suggestions précises pour la modification du prompt. Ces critiques claires et ces suggestions concrètes guident un module optimiseur réceptif à apporter des modifications plus substantielles, explorant ainsi un espace de recherche plus large et plus efficace. Pour améliorer davantage CriSPO avec une optimisation multi-métriques, nous introduisons une extension de réglage suffixe automatique (AST) afin d'optimiser les performances des prompts de tâche sur plusieurs métriques. Nous évaluons CriSPO sur 4 modèles linguistiques avancés (LLMs) à l'aide de 4 jeux de données de résumé et 5 jeux de données de questions-réponses (QA). Des expériences approfondies montrent une amélioration des scores ROUGE de 3 à 4 % sur les tâches de résumé et une amélioration significative de diverses métriques sur les tâches QA. Le code est disponible sur https://github.com/amazon-science/crispo.