1. Einführung in das Tutorial

Llama-3.3-70B-Instruct ist ein großes Sprachmodell, das 2024 von Meta eingeführt wurde. Es ist das einzige Open-Source-Modell in der Llama 3.3-Reihe und verfügt über eine speziell optimierte Version zur Feinabstimmung von Anweisungen. Das Modell unterstützt acht Sprachen, darunter Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thailändisch, derzeit jedoch kein Chinesisch. Bei der Leistungsbewertung beträgt die Parametergröße von Llama-3.3-70B-Instruct etwa 70 B, verschiedene Bewertungsindikatoren sind jedoch ungefähr gleich dem Modell Llama3.1-405B mit einer Parametergröße von 405 B, was bedeutet, dass Text mit weniger Ressourcen schneller generiert werden kann und die Leistung mit der eines größeren Modells mit fast der 6-fachen Parametergröße vergleichbar ist. Dies macht Llama-3.3-70B-Instruct zu einer leistungsstarken und kostengünstigen Alternative, die bei wichtigen Benchmarks eine überlegene Leistung liefert und gleichzeitig Open Source und zugänglich bleibt.

本教程使用 Llama-3.3-70B-Instruct（采取 int4 量化）作为演示，算力资源采用 A6000 。

2. Bedienungsschritte

1. Klicken Sie nach dem Starten des Containers auf die API-Adresse, um die Weboberfläche aufzurufen. (Wenn „Bad Gateway“ angezeigt wird, bedeutet dies, dass das Modell initialisiert wird. Da das Modell groß ist, warten Sie bitte etwa 5 Minuten und versuchen Sie es erneut.)

2. Sobald Sie die Webseite aufrufen, können Sie ein Gespräch mit dem Model beginnen!

Dialogablauf modellieren

Austausch und Diskussion

🖌️ Wenn Sie ein hochwertiges Projekt sehen, hinterlassen Sie bitte im Hintergrund eine Nachricht, um es weiterzuempfehlen! Darüber hinaus haben wir auch eine Tutorien-Austauschgruppe ins Leben gerufen. Willkommen, Freunde, scannen Sie den QR-Code und kommentieren Sie [SD-Tutorial], um der Gruppe beizutreten, verschiedene technische Probleme zu besprechen und Anwendungsergebnisse auszutauschen ↓