Ein-Klick-Bereitstellung Von Mistral-Nemo-Instruct-2407

Einführung in das Tutorial

Dieses Tutorial ist eine Ein-Klick-Bereitstellung von Mistral-Nemo-Instruct-2407. Die relevante Umgebung und die Abhängigkeiten wurden installiert. Sie müssen es nur klonen, um die Gründe dafür zu erfahren. Mistral-Nemo-Instruct-2407 ist eine optimierte Version der Mistral-Nemo-Base-2407-Anweisung, die gemeinsam von Mistral AI und NVIDIA als Open Source bereitgestellt wurde, und seine Leistung ist deutlich besser als die bestehender kleinerer oder ähnlich großer Modelle. Mistral NeMo verfügt über 12 Milliarden (12B) Parameter und ein Kontextfenster von 128k, und seine Argumentationsfähigkeit, sein Weltwissen und seine Kodierungsgenauigkeit sind in ähnlicher Größenordnung führend. Da Mistral NeMo auf einer Standardarchitektur basiert, ist es einfach zu verwenden und kann in jedem System, das Mistral 7B verwendet, als Drop-in-Ersatz eingesetzt werden.

Modellmerkmale

• Training mit 128.000 Kontextfenstern
• Trainiert mit einer großen Menge an mehrsprachigen und Codedaten
• Direkter Ersatz für Mistral 7B
• Die vorab trainierten Basis-Checkpoints und Checkpoints zur Feinabstimmung von Anweisungen werden unter der Apache 2.0-Lizenz veröffentlicht und ermöglichen die kommerzielle Nutzung.

Wie man läuft

1. Klonen und starten Sie den Container

2. Wenn der Container "läuft", öffnen Sie die "API-Adresse", um auf das Erfahrungsmodell zu schließen

3. Klicken Sie unten, um die Texteingabeaufforderung einzugeben, klicken Sie auf Einreichen

4. Ergebnisse generieren