HyperAI

Déploiement En Un Clic De MMed-Llama-3-8B

Introduction au tutoriel

该教程仅需使用 RTX 4090 即可启动。 

MMed-Llama-3-8B est un modèle de langage médical multilingue développé en 2024 par une équipe de recherche de l'Université Jiao Tong de Shanghai et du Laboratoire d'intelligence artificielle de Shanghai. Avec seulement 8B paramètres, le modèle démontre des performances comparables aux modèles à grande échelle tels que GPT-4, en particulier dans les applications médicales multilingues. Les résultats pertinents de l'article sontVers la construction d'un modèle linguistique multilingue pour la médecine", et a été publié dans Nature Communications.

Le modèle est construit sur la base deCorpus médical multilingue à grande échelle MMedC, le corpus contient environ 25,5 milliards de jetons liés à la médecine dans six langues principales : anglais, chinois, japonais, français, russe et espagnol. Le corpus MMedC a été conçu pour fournir des capacités d'adaptation de domaine autorégressives pour les modèles de langage à grande échelle à usage général.

Modèle MMed-Llama-3-8B en Benchmark MMedBenchIl surpasse les modèles open source existants et est même comparable à GPT-4 sous certains aspects. En outre, le modèle présente également de fortes capacités dans les tâches de réponse aux questions médicales multilingues, ce qui démontre son efficacité dans le traitement des questions médicales non anglophones.

Ce tutoriel est un tutoriel de démonstration de déploiement en un clic pour le modèle. Vous pouvez le cloner directement et ouvrir l'adresse API pour l'utiliser pour l'inférence.


Exemples d'effets


Étapes de course

1. 在该项目右上角点击「克隆」,随后依次点击「下一步」即可完成:基本信息> 选择算力> 审核等步骤。最后点击「继续执行」即可在个人容器内开启本项目。

2. 等待容器资源分配完成后,可直接使用平台提供的 API 地址进行操作页面的访问(需要提前完成实名认证,此步无需打开工作空间)
3. 与模型进行对话

Discussion et échange

🖌️ Si vous voyez un projet de haute qualité, veuillez laisser un message en arrière-plan pour le recommander ! De plus, nous avons également créé un groupe d’échange de tutoriels. Bienvenue aux amis pour scanner le code QR et commenter [Tutorial Exchange] pour rejoindre le groupe pour discuter de divers problèmes techniques et partager les résultats de l'application↓