HyperAIHyperAI

Command Palette

Search for a command to run...

Cadre d'optimisation Par Contraintes Discriminatives (DisCO)

Date

il y a 2 mois

Organisation

URL du document

2505.12366

Le cadre DisCO a été proposé par une équipe de recherche de l'université Texas A&M en mai 2025, et les résultats de recherche pertinents ont été publiés dans l'article «DisCO : Renforcement des grands modèles de raisonnement par optimisation discriminative sous contraintesIl a été sélectionné pour NeurIPS 2025.

Le cadre DisCO repose sur le principe de l'apprentissage discriminatif : augmenter le score des réponses positives tout en diminuant celui des réponses négatives afin de renforcer les modèles de réponse à un problème (LRM). Ce cadre présente des avantages significatifs par rapport à l'optimisation de politique relative de groupe (GRPO) et ses variantes.

(i) En adoptant des objectifs discriminatifs, le biais de difficulté a été complètement éliminé ;

(ii) En utilisant une fonction de notation sans élagage et une méthode d'optimisation contrainte, le problème d'instabilité d'entropie dans GRPO et ses variantes est résolu, ce qui donne lieu à une dynamique d'entraînement longue et stable ;

(iii) Permet l'intégration de techniques d'apprentissage discriminatif avancées pour résoudre le problème des données déséquilibrées, où, lors de l'entraînement, un grand nombre de questions génèrent plus de réponses négatives que de réponses positives.

Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp