Karpathy soutient méthode d'étiquetage pseudo pour données non étiquetées.

Récemment, une équipe de recherche dirigée par le professeur Shen Cong de l'Université de Virginie aux États-Unis a développé une nouvelle méthode appelée MAPLE (Many-Shot Adaptive Pseudo-LabEling). Cette méthode est conçue pour améliorer les performances des grands modèles linguistiques dans les scénarios d'apprentissage à plusieurs exemples, en particulier lorsque peu de données sont annotées mais que de nombreuses données non annotées sont disponibles. Dans les applications traditionnelles des grands modèles linguistiques, la nécessité de disposer de vastes quantités de données annotées manuellement rend le processus coûteux et chronophage. L'équipe de Shen Cong a cherché à résoudre ce problème en trouvant un moyen d'exploiter efficacement ces données non annotées. Ils ont mis en place deux technologies clés pour y parvenir : Méthode de sélection de pseudo-étiquettes : En construisant un graphe qui relie les données annotées et non annotées, ils identifient les échantillons non annotés ayant le plus d'impact sur la tâche. Ces échantillons sont ensuite étiquetés par un grand modèle linguistique, générant ainsi des "pseudo-étiquettes". Ce processus permet au modèle d'apprendre davantage à partir de ces échantillons représentatifs. Stratégie de sélection adaptative d'exemples : Pour chaque question de test, le système sélectionne intelligemment les exemples les plus pertinents parmi les données annotées et les pseudo-étiquetées, plutôt que d'utiliser un modèle fixe. Cela augmente l'exactitude et la capacité de généralisation du modèle. Les expérimentations menées par l'équipe ont démontré que cette approche non seulement réduit la dépendance envers les données coûteuses et annotées, mais aussi améliore significativement les performances du modèle dans diverses tâches réelles. Les évaluateurs de la publication ont salué cette recherche pour son apport significatif dans l'utilisation des grands modèles linguistiques dans des contextes à faible annotation. Applications Potentielles Systèmes de service client et de réponse aux questions : De nombreuses entreprises disposent de vastes archives de conversations historiques, mais sans annotation des types de questions. MAPLE peut utiliser ces données non annotées pour aider les grands modèles linguistiques à mieux comprendre et répondre aux questions des utilisateurs, sans avoir besoin d'annoter massivement des exemples. Assistants intelligents dans les domaines médicaux et financiers : Les coûts d'annotation étant très élevés dans ces domaines spécialisés, MAPLE permet d'utiliser une petite quantité de données expertes annotées, combinée à une grande quantité de cas non annotés, pour construire des systèmes de réponse aux questions ou de résumé plus précis. Scénarios éducatifs : Par exemple, pour générer automatiquement des explications ou des feedbacks sur des exercices. Beaucoup de questions ou de réponses d'étudiants ne sont pas annotées, et MAPLE aide le modèle à apprendre à fournir de meilleures explications, contribuant ainsi à l'assistance pédagogique. Applications d'IA pour les langues à ressources limitées ou les petites langues : Pour les langues qui manquent de données annotées, MAPLE peut exploiter des mécanismes de pseudo-étiquettes pour extraire des ressources non annotées, accélérant ainsi la mise en œuvre des systèmes d'IA pour ces langues. Défis et Solutions L'une des principales difficultés rencontrées par l'équipe était la stabilité du modèle. Au début, ils avaient l'intention d'utiliser uniquement des données non annotées avec une petite quantité de données annotées, mais les résultats étaient instables. Après plusieurs essais infructueux, ils ont opté pour une solution moins élégante mais plus contrôlable : l'utilisation de pseudo-étiquettes pour aider à la sélection des échantillons. Cette décision a permis d'améliorer la performance de manière plus constante et stable, enseignant aux étudiants l'importance des compromis entre idéal et pratique. Un autre défi a été la sélection des échantillons clés parmi les données non annotées. L'inspiration est venue d'un étudiant qui avait précédemment travaillé sur des théories d'influence dans les structures de graphe. Ces concepts ont été adaptés pour sélectionner efficacement les échantillons non annotés les plus influents, conduisant à des résultats prometteurs. Contexte et Implications L'apprentissage en contexte (ICL, In-context Learning) consiste à faire apprendre au modèle comment accomplir une tâche en lui présentant quelques exemples dans les prompts, sans avoir besoin de le retraîner. Avec l'évolution des grands modèles linguistiques, ces derniers peuvent désormais traiter des entrées textuelles plus longues, ce qui ouvre de nouvelles opportunités pour l'ICL. Google a souligné en 2024 que l'augmentation du nombre d'exemples dans les prompts améliore les performances de l'ICL, une approche nommée apprentissage en contexte à plusieurs exemples (Many-shot ICL). L'équipe de Shen Cong a identifié que pour tirer pleinement parti de l'ICL à plusieurs exemples, il est nécessaire d'avoir un grand ensemble de données annotées pour la tâche donnée. Cependant, l'annotation massive de données est coûteuse et difficile, surtout dans de nouveaux domaines ou pour des tâches complexes. C'est pourquoi ils ont développé MAPLE, qui utilise les capacités des grands modèles linguistiques pour générer des pseudo-étiquettes et enrichir les ensembles de données. La publication de leurs résultats à la 42ème Conférence Internationale sur l'Apprentissage Automatique (ICML) a été bien accueillie, et l'équipe espère continuer à améliorer la qualité et la robustesse des pseudo-étiquettes. Ils envisagent également d'étendre leur méthode à des scénarios inter-tâches ou inter-domaines, où les distributions de données varient considérablement, comme dans les domaines financier, médical et éducatif. En somme, la méthode MAPLE offre une solution efficace pour améliorer les performances des grands modèles linguistiques dans des environnements à faible annotation, permettant à l'IA de pénétrer plus de secteurs et de diversifier ses applications.