Prompt2Model : Génération de modèles exploitables à partir d'instructions en langage naturel

Les grands modèles linguistiques (LLM) permettent aujourd’hui aux concepteurs de systèmes de créer des systèmes NLP compétents grâce à la mise en œuvre par prompt, où il suffit de décrire la tâche en langage naturel et de fournir quelques exemples. Toutefois, d’un autre point de vue, les LLM représentent un recul par rapport aux modèles NLP spécialisés traditionnels : ils nécessitent des ressources informatiques importantes pour le déploiement et peuvent être soumis à des restrictions d’accès via des API. Dans cet article, nous proposons Prompt2Model, une méthode générale qui prend comme entrée une description de tâche en langage naturel, similaire aux prompts fournis aux LLM, et l’utilise pour entraîner un modèle spécialisé, plus propice au déploiement. Ce processus s’effectue en plusieurs étapes : recherche de jeux de données et de modèles préentraînés existants, génération de jeux de données à l’aide de LLM, puis fine-tuning supervisé sur ces jeux de données récupérés et générés. Sur trois tâches différentes, nous démontrons que, donnée la même description de tâche en peu d’exemples (few-shot), Prompt2Model entraîne des modèles qui surpassent en moyenne les performances d’un LLM puissant, gpt-3.5-turbo, de 20 %, tout en étant jusqu’à 700 fois plus petits. Nous montrons également que ces données peuvent être utilisées pour obtenir des estimations fiables de la performance des modèles, permettant ainsi aux développeurs de modèles d’évaluer la fiabilité d’un modèle avant son déploiement. Prompt2Model est disponible en open-source à l’adresse suivante : https://github.com/neulab/prompt2model.