برنامج تعليمي عبر الإنترنت: بطاقة واحدة A6000 تنشر Gemma 3 بسهولة وتحدد بدقة اللقطة الحقيقية لخطاب Huang Renxun
في مساء يوم 12 مارس،أطلقت شركة جوجل جهاز Gemma 3، وهو "شيطان البطاقة الواحدة"، والذي يقال أنه أقوى طراز يمكنه العمل على وحدة معالجة رسومية (GPU) أو وحدة معالجة حرارية (TPU) واحدة.وأكدت النتائج الفعلية أيضًا ما ذكره المدونة الرسمية - فقد تغلبت نسختها 27B على DeepSeek V3 الكامل بـ 671B، بالإضافة إلى o3-mini و Llama-405B، في المرتبة الثانية بعد DeepSeek R1، ولكن متطلبات قوة الحوسبة الخاصة بها أقل بكثير من النماذج الأخرى. كما هو موضح في الشكل التالي:
*يتم تصنيف النماذج حسب درجة Elo في Chatbot Arena؛ تمثل النقاط متطلبات قوة الحوسبة المقدرة
بعد ذلك، رفعت جوجل أيضًا بسخاء الحظر المفروض على التقرير الفني لـ Gemma 3. تم تقديم أن Gemma 3 يجمع بين أساليب مثل التقطير والتعلم المعزز ودمج النماذج، وأن أداء كل من الإصدارات المدربة مسبقًا وإصدارات ضبط التعليمات الدقيقة أفضل من Gemma 2. في الوقت نفسه، تم تقديم قدرات الفهم البصري وقدرات فهم اللغة الأكثر شمولاً، مما يدعم فهم أكثر من 140 لغة و128 ألف سياق طويل.
في سيناريوهات التطبيق، يمكن للنموذج الكبير متعدد الوسائط Gemma 3 معالجة مدخلات النصوص والصور وإنشاء مخرجات نصية، وهو مناسب لمهام توليد النصوص المختلفة وفهم الصور، بما في ذلك الإجابة على الأسئلة والتلخيص والاستدلال. تتضمن إصدارات المعلمات الأربعة 1B و4B و12B و27B المفتوحة المصدر هذه المرة كل من النماذج المدربة مسبقًا وإصدارات ضبط التعليمات العامة، والتي يمكن تشغيلها بسرعة مباشرة على الأجهزة مثل الهواتف المحمولة وأجهزة الكمبيوتر المحمولة ومحطات العمل.
من أجل السماح للجميع بتجربة "نموذج الوسائط المتعددة الأقوى لوحدة معالجة الرسوميات الفردية" بشكل أفضل،أطلق قسم البرامج التعليمية في الموقع الرسمي لشركة HyperAI "نشر Gemma-3-27B-IT باستخدام vLLM"، وهي نسخة مُحسّنة للتعليمات تحتوي على 27 مليار معلمة.
رابط البرنامج التعليمي:
بالإضافة إلى ذلك، قمنا بإعداد مكافأة مفاجئة للجميع - 4 ساعات بطاقة RTX A6000 واحدة فترة الاستخدام المجانية (فترة صلاحية الموارد هي شهر واحد)، يستخدم المستخدمون الجدد رمز الدعوة جيما-3سجل للحصول عليه، 10 أماكن متاحة فقط، الأولوية لمن يصل أولاً!
تشغيل تجريبي
1. قم بتسجيل الدخول إلى hyper.ai، في صفحة البرنامج التعليمي، حدد Deploy Gemma-3-27B-IT باستخدام vLLM، ثم انقر فوق تشغيل هذا البرنامج التعليمي عبر الإنترنت.
2. بعد الانتقال إلى الصفحة التالية، انقر فوق "استنساخ" في الزاوية اليمنى العليا لاستنساخ البرنامج التعليمي في الحاوية الخاصة بك.
3. حدد صور NVIDIA A6000 وPyTorch، ثم انقر فوق متابعة. لقد قمنا بتحميل الإصدار الأحدث من vLLM مسبقًا في الحاوية.
أطلقت منصة OpenBayes طريقة فوترة جديدة. يمكنك اختيار "الدفع حسب الاستخدام" أو "الباقة اليومية/الأسبوعية/الشهرية" وفقًا لاحتياجاتك. يمكن للمستخدمين الجدد التسجيل باستخدام رابط الدعوة أدناه للحصول على 4 ساعات من RTX 4090 + 5 ساعات من وقت فراغ وحدة المعالجة المركزية!
رابط دعوة حصرية لـ HyperAI (انسخ وافتح في المتصفح):
https://openbayes.com/console/signup?r=Ada0322_NR0n
4. انتظر حتى يتم تخصيص الموارد. تستغرق عملية الاستنساخ الأولى حوالي دقيقتين. عندما تتغير الحالة إلى "قيد التشغيل"، انقر فوق سهم الانتقال بجوار "عنوان API" للانتقال إلى صفحة العرض التوضيحي. نظرًا لأن النموذج كبير الحجم، يستغرق عرض واجهة WebUI حوالي 3 دقائق، وإلا فسيتم عرض "البوابة سيئة". يرجى ملاحظة أنه يجب على المستخدمين إكمال مصادقة الاسم الحقيقي قبل استخدام وظيفة الوصول إلى عنوان API.
عرض التأثير
في الصباح الباكر أمس (19 مارس)، ألقى هوانغ رينكسون، "سيف الجلد"، خطابًا رئيسيًا في NVIDIA GTC 2025. استخدمته لاختبار فهم Gemma 3 للصورة. لم يتعرف على هوانغ من النظرة الأولى فحسب، بل تعرف أيضًا على أنه كان يحمل جهاز تحكم عن بعد ويقف على المسرح، كما هو موضح في الشكل التالي:
