Einführung in das Tutorial

Dieses Tutorial ist ein One-Click-Ausführungspaket von Ollama + Open WebUI.Befolgen Sie einfach die folgenden Schritte und geben Sie den Befehl ein, um das große Modell Llama3 8B-Instruct mit einem Klick auszuführen.

Llama 3 8B-Instruct Llama 3, das neueste Open-Source-Modell für generative KI in der Llama-Reihe, stellt eine deutliche Verbesserung gegenüber Llama 2 und anderen öffentlich verfügbaren Modellen dar:

• Trainiert auf einem siebenmal größeren Datensatz als Llama 2;
• Unterstützt 8K Langtext;
• Mit einem Vokabular von 128.000 Token kann es die Sprache effizienter kodieren.

Das Modell wurde im öffentlichen Raum aufgestellt und nimmt keinen persönlichen Lagerraum in Anspruch.

Nachdem Sie Ollama bzw. Open WebUI gemäß den folgenden Inhalten gestartet haben, können Sie es mithilfe der „API-Adresse“ auf der rechten Seite verwenden.

Wie man läuft

Erstellen Sie ein neues Terminal und starten Sie Ollama

OLLAMA_MODELS=/openbayes/home/ollama-models ./ollama serve

Erstellen Sie ein neues Terminal und starten Sie Open Webui

bash /openbayes/input/input1/open-webui/backend/start.sh

Seite öffnen

1. Kopieren Sie die API-Adresse rechts und fügen Sie sie in Ihren Browser ein, um die Seite „WebUI öffnen“ zu öffnen.

2. Melden Sie sich über [email protected] / adminadmin an