Command Palette
Search for a command to run...
Cadre d'optimisation Par Contraintes Discriminatives (DisCO)
Le cadre DisCO a été proposé par une équipe de recherche de l'université Texas A&M en mai 2025, et les résultats de recherche pertinents ont été publiés dans l'article «DisCO : Renforcement des grands modèles de raisonnement par optimisation discriminative sous contraintesIl a été sélectionné pour NeurIPS 2025.
Le cadre DisCO repose sur le principe de l'apprentissage discriminatif : augmenter le score des réponses positives tout en diminuant celui des réponses négatives afin de renforcer les modèles de réponse à un problème (LRM). Ce cadre présente des avantages significatifs par rapport à l'optimisation de politique relative de groupe (GRPO) et ses variantes.
(i) En adoptant des objectifs discriminatifs, le biais de difficulté a été complètement éliminé ;
(ii) En utilisant une fonction de notation sans élagage et une méthode d'optimisation contrainte, le problème d'instabilité d'entropie dans GRPO et ses variantes est résolu, ce qui donne lieu à une dynamique d'entraînement longue et stable ;
(iii) Permet l'intégration de techniques d'apprentissage discriminatif avancées pour résoudre le problème des données déséquilibrées, où, lors de l'entraînement, un grand nombre de questions génèrent plus de réponses négatives que de réponses positives.
Build AI with AI
From idea to launch — accelerate your AI development with free AI co-coding, out-of-the-box environment and best price of GPUs.