HyperAIHyperAI

Command Palette

Search for a command to run...

vLLM+Open WebUI-Bereitstellung Magistral-Small-2506

Date

vor 7 Monaten

Size

1.72 MB

Tags

License

Apache 2.0

1. Einführung in das Tutorial

Magistral-Small-2506 ist das erste Inferenzmodell, das Mistral AI am 10. Juni 2025 veröffentlichte. Es basiert auf Mistral Small 3.1 (2503), bietet zusätzliche Inferenzfunktionen, führt SFT durch Magistral Medium Tracking durch und führt darüber hinaus Reinforcement Learning durch. Es handelt sich um ein kleines und effizientes Inferenzmodell mit 24 B Parametern, das lange Inferenzketten-Trackings durchführen kann, bevor es Antworten liefert, um komplexe Probleme besser zu verstehen und zu bewältigen und so die Genauigkeit und Rationalität der Antworten zu verbessern.

Dieses Tutorial verwendet Dual-Card-RTX-A6000-Ressourcen.

2. Projektbeispiele

3. Bedienungsschritte

1. Klicken Sie nach dem Starten des Containers auf die API-Adresse, um die Weboberfläche aufzurufen

2. Nachdem Sie die Webseite aufgerufen haben, können Sie ein Gespräch mit dem Modell beginnen

Wenn „Modell“ nicht angezeigt wird, bedeutet dies, dass das Modell initialisiert wird. Da das Modell groß ist, warten Sie bitte etwa 2-3 Minuten und aktualisieren Sie die Seite.

Anwendung

4. Diskussion

🖌️ Wenn Sie ein hochwertiges Projekt sehen, hinterlassen Sie bitte im Hintergrund eine Nachricht, um es weiterzuempfehlen! Darüber hinaus haben wir auch eine Tutorien-Austauschgruppe ins Leben gerufen. Willkommen, Freunde, scannen Sie den QR-Code und kommentieren Sie [SD-Tutorial], um der Gruppe beizutreten, verschiedene technische Probleme zu besprechen und Anwendungsergebnisse auszutauschen ↓

Build AI with AI

From idea to launch — accelerate your AI development with free AI co-coding, out-of-the-box environment and best price of GPUs.

AI Co-coding
Ready-to-use GPUs
Best Pricing

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp