1. Introduction au tutoriel

Osmosis-Structure-0.6B est un modèle de langage compact (SLM) dédié, lancé par osmosis-ai en 2025, conçu pour générer des sorties structurées. Malgré sa taille de paramètre de seulement 0,6B, le modèle affiche d'excellentes performances dans l'extraction d'informations structurées lorsqu'il est utilisé avec les frameworks pris en charge.

L'approche d'osmosis-ai utilise des sorties structurées lors de l'apprentissage, forçant le modèle à se concentrer uniquement sur chaque valeur clé déclarée par le moteur d'inférence. Cela améliore considérablement la précision du modèle dans la génération de réponses structurées et bien formatées dans divers domaines, notamment le raisonnement mathématique et la résolution de problèmes.

Ce tutoriel utilise un seul GPU RTX 4090 comme ressource de calcul. Langues prises en charge : anglais. En raison du faible nombre de paramètres du modèle, le texte source est fortement dépendant.

2. Exemples de projets

3. Étapes de l'opération

1. Démarrez le conteneur

2. Après être entré sur la page Web, vous pouvez démarrer une conversation avec le modèle

Si « Modèle » n'est pas affiché, cela signifie que le modèle est en cours d'initialisation. Étant donné que le modèle est grand, veuillez patienter environ 2 à 3 minutes et actualiser la page.