Command Palette
Search for a command to run...
vLLM+Open WebUI-Bereitstellung FairyR1-14B-Preview
1. Einführung in das Tutorial
FairyR1-14B-Preview ist ein leichtes, leistungsstarkes Modell, das im Mai 2025 vom Team um Professor Yang Tong an der Fakultät für Informatik der Peking-Universität veröffentlicht wurde und sich auf Mathematik- und Programmieraufgaben konzentriert. Das Modell basiert auf der DeepSeek-R1-Distill-Qwen-32B-Basis und wird durch die Kombination von Feinabstimmungs- und Modellzusammenführungstechniken erstellt. Die Studie untersuchte die Möglichkeit, bei bestimmten Aufgaben eine vergleichbare oder sogar bessere Leistung als bei größeren Modellen zu erzielen, indem die Anzahl der Parameter deutlich reduziert wurde. Die Forschung wurde von der National Natural Science Foundation of China (62372009) gefördert.
Dieses Tutorial verwendet eine einzelne RTX A6000-Karte als Ressource.
2. Projektbeispiele

3. Bedienungsschritte
1. Klicken Sie nach dem Starten des Containers auf die API-Adresse, um die Weboberfläche aufzurufen

2. Nachdem Sie die Webseite aufgerufen haben, können Sie ein Gespräch mit dem Modell beginnen
Wenn „Modell“ nicht angezeigt wird, bedeutet dies, dass das Modell initialisiert wird. Da das Modell groß ist, warten Sie bitte etwa 2-3 Minuten und aktualisieren Sie die Seite.
Anwendung

4. Diskussion
🖌️ Wenn Sie ein hochwertiges Projekt sehen, hinterlassen Sie bitte im Hintergrund eine Nachricht, um es weiterzuempfehlen! Darüber hinaus haben wir auch eine Tutorien-Austauschgruppe ins Leben gerufen. Willkommen, Freunde, scannen Sie den QR-Code und kommentieren Sie [SD-Tutorial], um der Gruppe beizutreten, verschiedene technische Probleme zu besprechen und Anwendungsergebnisse auszutauschen ↓

KI mit KI entwickeln
Von der Idee bis zum Start — beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und den besten GPU-Preisen.