HyperAIHyperAI

Command Palette

Search for a command to run...

Magistral

Résumé

Nous présentons Magistral, le premier modèle de raisonnement de Mistral, ainsi que notre propre pipeline d'apprentissage par renforcement (RL) évolutif. Au lieu de nous appuyer sur des implémentations existantes et des traces d'RL distillées à partir de modèles antérieurs, nous adoptons une approche de construction depuis la base, en nous appuyant uniquement sur nos propres modèles et infrastructures. Nous démontrons notamment une pile technique qui nous a permis d'explorer les limites de l'entraînement pur par RL des grands modèles linguistiques (LLMs), présentons une méthode simple pour imposer le langage de raisonnement du modèle, et montrons que l'RL sur des données textuelles seules maintient la plupart des capacités du point de départ initial. Nous constatons que l'RL sur du texte maintient ou améliore la compréhension multimodale, le suivi d'instructions et l'appel de fonctions. Nous présentons Magistral Medium, entraîné pour le raisonnement au-dessus de Mistral Medium 3 avec uniquement de l'RL, et nous mettons à disposition sous licence open source Magistral Small (Apache 2.0), qui inclut également des données de démarrage froid provenant de Magistral Medium.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp