HyperAI

Déploiement vLLM+Open WebUI II-Medical-8B Modèle De Raisonnement Médical

1. Introduction au tutoriel

II-Medical-8B est un modèle de langage avancé à grande échelle récemment développé par Intelligent Internet Company. Conçu spécifiquement pour améliorer les capacités de l’IA pour le raisonnement médical. Il s’agit d’une amélioration majeure par rapport au précédent II-Medical-7B-Preview, améliorant considérablement les capacités de réponse aux questions médicales. Le modèle est basé sur le modèle Qwen/Qwen3-8B et optimise les performances du modèle en utilisant SFT (réglage fin supervisé) à l'aide d'un ensemble de données d'inférence spécifique au domaine médical et en formant DAPO (une méthode d'optimisation possible) sur un ensemble de données d'inférence dure. Les résultats pertinents de l'article sont1,4 million de données de raisonnement distillées open source pour permettre la formation de modèles linguistiques à grande échelle".

Ce tutoriel utilise des ressources pour une seule carte RTX 4090.

2. Exemples de projets

3. Étapes de l'opération

1. Après avoir démarré le conteneur, cliquez sur l'adresse API pour accéder à l'interface Web

Si « Modèle » n'est pas affiché, cela signifie que le modèle est en cours d'initialisation. Étant donné que le modèle est grand, veuillez patienter environ 1 à 2 minutes et actualiser la page.

2. Après être entré sur la page Web, vous pouvez démarrer une conversation avec le modèle

Comment utiliser

4. Discussion

🖌️ Si vous voyez un projet de haute qualité, veuillez laisser un message en arrière-plan pour le recommander ! De plus, nous avons également créé un groupe d’échange de tutoriels. Bienvenue aux amis pour scanner le code QR et commenter [Tutoriel SD] pour rejoindre le groupe pour discuter de divers problèmes techniques et partager les résultats de l'application↓

Informations sur la citation

Merci à l'utilisateur Github xxxjjjyyy1  Déploiement de ce tutoriel. Les informations de citation pour ce projet sont les suivantes :

@misc{2025II-Medical-8B,
      title={II-Medical-8B: Medical Reasoning Model}, 
      author={Intelligent Internet},
      year={2025}
}