HyperAI

نشر Gemma-3-27B-IT باستخدام vLLM

1. مقدمة البرنامج التعليمي

Gemma-3-27B-IT هو الجيل الثالث من نموذج Gemma الكبير مفتوح المصدر من قبل Google في عام 2025، وهو إصدار مُحسَّن للتعليمات يحتوي على 27 مليار معلمة.

سلسلة Gemma هي سلسلة من النماذج الكبيرة مفتوحة المصدر من Google، والتي تم بناؤها على نفس الأبحاث والتكنولوجيا مثل نموذج Gemini. Gemma 3 هو نموذج متعدد الوسائط كبير قادر على معالجة مدخلات النصوص والصور وتوليد مخرجات نصية، مع أوزان مفتوحة متاحة في كل من الإصدارات المدربة مسبقًا والمتغيرات المضبوطة للتعليمات. يحتوي النموذج على نافذة سياقية بحجم 128 كيلو بايت، ويدعم أكثر من 140 لغة، ويقدم أحجام نماذج أكثر من الإصدارات السابقة. تعتبر نماذج Gemma 3 مناسبة لمجموعة متنوعة من مهام إنشاء النصوص وفهم الصور، بما في ذلك الإجابة على الأسئلة والتلخيص والاستدلال. إن حجمها الصغير نسبيًا يمكّنها من الانتشار في بيئات ذات موارد محدودة، مثل أجهزة الكمبيوتر المحمولة أو أجهزة الكمبيوتر المكتبية أو البنى التحتية السحابية.

يستخدم هذا البرنامج التعليمي gemma-3-27b-it كعرض توضيحي، ويستخدم مورد الحوسبة بطاقة واحدة A6000.

2. خطوات التشغيل

1. بعد بدء تشغيل الحاوية، انقر فوق عنوان API للدخول إلى واجهة الويب. بسبب النموذج الكبير، يستغرق عرض واجهة WebUI حوالي 3 دقائق، وإلا فسيتم عرض "البوابة سيئة".

2. بعد الدخول إلى صفحة الويب، يمكنك إجراء استدلال النموذج

  1. محادثة نصية: أدخل النص مباشرة وأجري محادثة نصية دون تحميل الصور
  2. فهم الصورة: أدخل النص والصور لتوليد فهم النموذج المقابل

* تشغيل المثال

التبادل والمناقشة

🖌️ إذا رأيت مشروعًا عالي الجودة، فيرجى ترك رسالة في الخلفية للتوصية به! بالإضافة إلى ذلك، قمنا أيضًا بتأسيس مجموعة لتبادل الدروس التعليمية. مرحبًا بالأصدقاء لمسح رمز الاستجابة السريعة وإضافة [برنامج تعليمي SD] للانضمام إلى المجموعة لمناقشة المشكلات الفنية المختلفة ومشاركة نتائج التطبيق↓