vLLM+Open WebUI-Bereitstellung Devstral-Small-2505

1. Einführung in das Tutorial

Devstral-Small-2505 ist ein agentenbasiertes Large Language Model (LLM) für Softwareentwicklungsaufgaben, das am 21. Mai 2025 von Mistral AI und All Hands AI veröffentlicht wurde. Devstral zeichnet sich durch die Nutzung von Tools zur Code-Analyse, zur Bearbeitung mehrerer Dateien und zur Steuerung von Softwareentwicklungsagenten aus. Das Modell schneidet im SWE-Bench gut ab und ist damit das beste Open-Source-Modell im Benchmark.

Dieses Tutorial verwendet die Ressourcen für die Dual-SIM A6000.

2. Projektbeispiele

3. Bedienungsschritte

1. Klicken Sie nach dem Starten des Containers auf die API-Adresse, um die Weboberfläche aufzurufen

Wenn „Modell“ nicht angezeigt wird, bedeutet dies, dass das Modell initialisiert wird. Da das Modell groß ist, warten Sie bitte etwa 2–3 Minuten und aktualisieren Sie die Seite.

2. Nachdem Sie die Webseite aufgerufen haben, können Sie ein Gespräch mit dem Modell beginnen

Anwendung

4. Diskussion

🖌️ Wenn Sie ein hochwertiges Projekt sehen, hinterlassen Sie bitte im Hintergrund eine Nachricht, um es weiterzuempfehlen! Darüber hinaus haben wir auch eine Tutorien-Austauschgruppe ins Leben gerufen. Willkommen, Freunde, scannen Sie den QR-Code und kommentieren Sie [SD-Tutorial], um der Gruppe beizutreten, verschiedene technische Probleme zu besprechen und Anwendungsergebnisse auszutauschen ↓