HyperAI

نشر Llama3-8B-Instruct باستخدام Ollama و Open WebUI

مقدمة البرنامج التعليمي

1

هذا البرنامج التعليمي عبارة عن حزمة تشغيل بنقرة واحدة من Ollama + Open WebUI.ما عليك سوى اتباع الخطوات أدناه وإدخال الأمر لتشغيل النموذج الكبير Llama3 8B-Instruct بنقرة واحدة.

Llama 3 8B-Instruct أحدث إصدار من سلسلة Llama من نماذج الذكاء الاصطناعي التوليدية مفتوحة المصدر، وهو يمثل تحسنًا كبيرًا مقارنة بـ Llama 2 والنماذج الأخرى المتاحة للجمهور:

  • تم تدريبه على مجموعة بيانات أكبر بسبع مرات من Llama 2؛
  • يدعم نصًا بطول 8K؛
  • بفضل مفرداته التي تصل إلى 128 ألف رمز، فإنه قادر على ترميز اللغة بكفاءة أكبر.

تم وضع النموذج في مكان عام ولا يشغل أي مساحة تخزين شخصية.

بعد بدء تشغيل Ollama وOpen WebUI على التوالي وفقًا للمحتويات التالية، يمكنك استخدامه باستخدام "عنوان API" على اليمين.

كيفية الركض

إنشاء محطة طرفية جديدة وبدء تشغيل Ollama

OLLAMA_MODELS=/openbayes/home/ollama-models ./ollama serve

إنشاء محطة طرفية جديدة وبدء تشغيل Open Webui

bash /openbayes/input/input1/open-webui/backend/start.sh

الصفحة المفتوحة

  1. انسخ عنوان API الموجود على اليمين والصقه في متصفحك لفتح صفحة Open WebUI.
  1. قم بتسجيل الدخول عبر admin@example.com / adminadmin