نشر نماذج كبيرة باستخدام Ollama وOpen WebUI

مقدمة البرنامج التعليمي

هذا البرنامج التعليمي عبارة عن حزمة تشغيل بنقرة واحدة من Ollama + Open WebUI. كل ما عليك فعله هو اتباع الخطوات التالية لإدخال الأمر لتشغيل النموذج الكبير بنقرة واحدة.

النماذج المضمنة حاليًا هي:

1. كوين 1.5 14ب
2. كوين 1.5 32ب
3. llava 1.6 34b هذا النموذج هو نموذج متعدد الوسائط

يتم وضع النماذج الثلاثة المذكورة أعلاه في مكان عام ولا تشغل مساحة تخزين شخصية.

بعد بدء تشغيل ollama وفتح webui على التوالي وفقًا للمحتويات التالية، يمكنك استخدامه باستخدام "عنوان API" على اليمين.

مرجع فيديو تعليمي:لا حاجة للتثبيت، فقط استنسخ وشغل نماذج كبيرة بنقرة واحدة - قم بتشغيل Ollama وافتح WebUI على وحدة معالجة الرسومات السحابية

ابدأ أولاما

OLLAMA_MODELS=/openbayes/home/ollama-models ./ollama serve

ابدأ بفتح واجهة المستخدم على الويب

bash /openbayes/input/input1/open-webui/backend/start.sh

الصفحة المفتوحة

1. انسخ عنوان API الموجود على اليمين والصقه في متصفحك لفتح صفحة واجهة المستخدم المفتوحة.

2. تسجيل الدخول عبر admin@example / adminadmin

إضافة نماذج جديدة

في سطر الأوامر، مرر الأمر ./ollama pull  يمكن تنزيل النماذج الجديدة. النموذج الجديد سوف يأخذ مساحة خاصة به.