Bereitstellung Von MMed-Llama-3-8B Mit Einem Klick
Einführung in das Tutorial
该教程仅需使用 RTX 4090 即可启动。
MMed-Llama-3-8B ist ein mehrsprachiges medizinisches Großsprachenmodell, das 2024 von einem Forschungsteam der Shanghai Jiao Tong University und des Shanghai Artificial Intelligence Laboratory entwickelt wurde. Mit nur 8 Milliarden Parametern zeigt das Modell eine Leistung, die mit groß angelegten Modellen wie GPT-4 vergleichbar ist, insbesondere bei mehrsprachigen medizinischen Anwendungen. Die relevanten Papierergebnisse sindAuf dem Weg zum Aufbau eines mehrsprachigen Sprachmodells für die Medizin“ und wurde in Nature Communications veröffentlicht.
Das Modell basiert aufUmfangreiches mehrsprachiges medizinisches Korpus MMedCDas Korpus enthält ungefähr 25,5 Milliarden medizinbezogene Token in sechs Hauptsprachen: Englisch, Chinesisch, Japanisch, Französisch, Russisch und Spanisch. Das MMedC-Korpus wurde erstellt, um autoregressive Domänenanpassungsfunktionen für allgemeine, groß angelegte Sprachmodelle bereitzustellen.
MMed-Llama-3-8B Modell in MMedBench BenchmarkDie Leistung von CNN übertrifft bestehende Open-Source-Modelle und ist in einigen Aspekten sogar mit GPT-4 vergleichbar. Darüber hinaus zeigt das Modell auch starke Fähigkeiten bei der Beantwortung mehrsprachiger medizinischer Fragen, was seine Wirksamkeit bei der Bearbeitung nicht-englischsprachiger medizinischer Fragen belegt.
Dieses Tutorial ist ein Demo-Tutorial zur Bereitstellung des Modells mit einem Klick. Sie können es direkt klonen und die API-Adresse öffnen, um es für Inferenzen zu verwenden.
Effektbeispiele
 |
Schritte ausführen
1. 在该项目右上角点击「克隆」，随后依次点击「下一步」即可完成：基本信息> 选择算力> 审核等步骤。最后点击「继续执行」即可在个人容器内开启本项目。
2. 等待容器资源分配完成后，可直接使用平台提供的 API 地址进行操作页面的访问（需要提前完成实名认证，此步无需打开工作空间）
 |
3. 与模型进行对话
 |
Diskussion und Austausch
🖌️ Wenn Sie ein hochwertiges Projekt sehen, hinterlassen Sie bitte im Hintergrund eine Nachricht, um es weiterzuempfehlen! Darüber hinaus haben wir auch eine Tutorien-Austauschgruppe ins Leben gerufen. Willkommen, Freunde, scannen Sie den QR-Code und kommentieren Sie [Tutorial Exchange], um der Gruppe beizutreten, verschiedene technische Probleme zu besprechen und Anwendungsergebnisse auszutauschen ↓
