HyperAIHyperAI

Command Palette

Search for a command to run...

Déploiement vLLM+Open WebUI FairyR1-14B-Preview

Date

il y a 8 mois

Size

1.52 MB

License

Apache 2.0

1. Introduction au tutoriel

FairyR1-14B-Preview est un modèle léger et performant, publié en mai 2025 par l'équipe du professeur Yang Tong de l'École d'informatique de l'Université de Pékin, et axé sur les tâches mathématiques et de programmation. Ce modèle repose sur la base DeepSeek-R1-Distill-Qwen-32B et est construit en combinant des techniques de réglage fin et de fusion de modèles. L'étude a exploré la possibilité d'obtenir des performances comparables, voire supérieures, sur des tâches spécifiques à celles des modèles plus volumineux, avec une réduction significative du nombre de paramètres. Cette recherche a été financée par la Fondation nationale des sciences naturelles de Chine (62372009).

Ce tutoriel utilise une seule carte RTX A6000 comme ressource.

2. Exemples de projets

3. Étapes de l'opération

1. Après avoir démarré le conteneur, cliquez sur l'adresse API pour accéder à l'interface Web

2. Après être entré sur la page Web, vous pouvez démarrer une conversation avec le modèle

Si « Modèle » n'est pas affiché, cela signifie que le modèle est en cours d'initialisation. Le modèle étant volumineux, veuillez patienter 2 à 3 minutes avant d'actualiser la page.

Comment utiliser

4. Discussion

🖌️ Si vous voyez un projet de haute qualité, veuillez laisser un message en arrière-plan pour le recommander ! De plus, nous avons également créé un groupe d’échange de tutoriels. Bienvenue aux amis pour scanner le code QR et commenter [Tutoriel SD] pour rejoindre le groupe pour discuter de divers problèmes techniques et partager les résultats de l'application↓

Build AI with AI

From idea to launch — accelerate your AI development with free AI co-coding, out-of-the-box environment and best price of GPUs.

AI Co-coding
Ready-to-use GPUs
Best Pricing

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp