Tous les scénarios ne nécessitent pas des centaines de milliards de paramètres, mais la quasi-totalité d'entre eux requièrent des modèles capables d'« inférence ». L'amélioration des capacités d'inférence, de compréhension du contexte à long terme et d'appel d'outils de modèles plus petits et plus faciles à déployer est devenue un axe de recherche important pour la communauté open source.

Pour remédier au problème des capacités de traitement insuffisantes pour les tâches complexes dans les petits modèles,Empero a publié en open source Qwythos-9B-Claude-Mythos-5-1M, un modèle de langage amélioré par inférence construit sur Qwythos3.5-9B.Le modèle a été post-entraîné à l'aide de données de trajectoire d'inférence de haute qualité de Claude Mythos et Claude Fable dépassant 500 millions de jetons.Tout en conservant une échelle de 9 milliards de paramètres, améliorer les performances du modèle dans les tâches d'inférence complexes.

Par rapport au modèle de base Qwen3.5-9B,Qwythos a montré des améliorations significatives dans de multiples évaluations, notamment une augmentation de 34 points au MMLU et une augmentation de 30 points au raisonnement mathématique strict gsm8k.Cela démontre que les modèles à petits paramètres peuvent également réaliser un bond en avant en termes de capacités grâce à des données d'inférence de haute qualité.

En plus d'optimiser les capacités de raisonnementQwythos a également été amélioré pour les scénarios d'agents IA.Le modèle prend en charge les fonctionnalités d'invocation d'outils natifs basées sur la spécification Qwen 3.5, ce qui lui permet de se connecter à des outils externes pour exécuter des tâches complexes. Parallèlement, grâce à la technologie de mise à l'échelle YaRN RoPE, il prend en charge des contextes ultra-longs allant jusqu'à 1 million de jetons, gérant des informations complexes telles que de longs documents et des bases de code. De plus,Qwythos hérite des capacités de vision multimodale de Qwen3.5-9B.La compréhension des images peut être prise en charge par le module mmproj, élargissant ainsi l'application du modèle à des scénarios tels que les agents multimodaux.

La sortie de Qwythos a ouvert de nouvelles perspectives pour le développement de petits modèles : grâce à des données de haute qualité, à l’entraînement par inférence et à l’optimisation des capacités, les modèles à petits paramètres peuvent également surmonter les limitations d’échelle, offrant de nouvelles possibilités pour des applications d’IA à faible coût et à haute efficacité.

Pour permettre aux développeurs de se familiariser rapidement avec Qwythos, HyperAI (hyper.ai) a compilé des ressources pertinentes sur les modèles afin de les aider à déployer des modèles en un seul clic et à démarrer rapidement les tests d'inférence et le développement d'agents. ⬇️

Exécutez en ligne :https://go.hyper.ai/25R6k

Plus de tutoriels en ligne :

https://hyper.ai/notebooks

Essai de démonstration

1. Après avoir accédé à la page d'accueil d'hyper.ai, sélectionnez la page « Tutoriels » ou cliquez sur « Voir plus de tutoriels », sélectionnez « Qwythos-9B-Claude-Mythos-5-1M GGUF Inference Deployment » et cliquez sur « Exécuter ce tutoriel ».

2. Une fois la page redirigée, cliquez sur « Cloner » en haut à droite pour cloner le tutoriel dans votre propre conteneur.

Remarque : Vous pouvez changer de langue en haut à droite de la page. Actuellement, le chinois et l’anglais sont disponibles. Ce tutoriel présente les étapes en anglais.

3. Sélectionnez les images « NVIDIA RTX 5090 » et « PyTorch », puis cliquez sur « Continuer l'exécution de la tâche ».

4. Attendez que les ressources soient allouées. Une fois que le statut passe à « En cours d'exécution », cliquez sur « Ouvrir l'espace de travail » pour accéder à l'espace de travail Jupyter.

Affichage des effets

1. Une fois la page redirigée, cliquez sur le fichier README à gauche, puis sur « Exécuter » en haut.

2. Une fois le processus terminé, cliquez sur l'adresse API à droite pour ouvrir l'interface de démonstration.