ميسترال يطرح نموذج لارج 4 متعدد الوسائط على هاغينغ فيس
أطلقت شركة ميسترال، على منصة حافينغ فيس، نموذج «ميسترال لارج ٤» الملقَّب بـ«لي شونك»، بوصفه نموذجاً لغوياً متعدّد الوسائط واللغات يعتمد معمارية خليط الخبراء، ويستقبل النصوص والصور ويولّد نصوصاً. ويبلغ إجمالي معاملات النموذج نحو تريليون مُعامل، مع نحو تسعة وأربعين مليار مُعامل نشط، ونافذة سياق تصل إلى مليون رمز. ويُطرح في نسختين رسميتين: نسخة مضغوطة إلى ثمانية بيتات عائمة، ونسخة كمّية متقدمة تتطلّب معالجات نفيديا من جيل بلاكويل. ويوفّر فريق لاما والمجتمع إصدارات كمّية إضافية للتشغيل المحلي على أجهزة أبل أو وحدات نفيديا و أي إم دي. ويُوزَّع النموذج برخصة أوزان مفتوحة مشتقة من رخصة «إم آي تي» مع قيود على الخدمات المقدَّمة من خلال النماذج. على مستوى البنية المعمارية، يتألف مُفكِّك النص من اثنتين وسبعين طبقة، وبُعد كامن قدره ٦٬١٤٤، و٦٤ رأس اهتمام. ويجمع بين الاهتمام الكامن متعدد الرؤوس وفهرس اهتمام متفرِّق يختار حتى ألفين وثمانية وأربعين موضعاً للمفاتيح. وتستخدم الطبقات نمطاً متبادلاً بين الترميز الموضعي الدوّار وطبقات بلا ترميز موضعي، فيما تستخدم الطبقة الأولى شبكة تغذية أمامية كثيفة. وتتوزّع بقية الطبقات على مئة وثمانية وعشرين خبيراً، يُختار منها أربعة لكل رمز مع خبير مشترك. ويعتمد ترميزاً موضعياً مطوّراً بمُعاملات تعلّمية لكل تردد. أما مُشفّر الرؤية فمبنٍ على «بيكسترال» بألف وستمئة مليون مُعامل وثلاثين طبقة وبُعد كامن ٢٬٠٤٨ وستة عشر رأس اهتمام، مع تجميع مكاني لمساحات البكسل. وتظهر قوة النموذج في البرمجة ووكلاء البرمجة والأمن السيبراني وفهم الصور وسير العمل الوكيل. وبحلول ٢٩ أكتوبر ٢٠٢٦، احتل مكاناً متقدماً بين نماذج الأوزان المفتوحة في مؤشر الذكاء، وسجّل ٦١٫٧٪ في مهمة برمجة عميقة، و٥٩٫٤٪ في أسئلة البرمجيات، و٢٨٫٣٪ في مهام الطرفية، بمتوسط وكلاء برمجي بلغ ٤٩٫٨٪. وفي الأمن السيبراني حقّق ٨٢٪ في اختبار إعادة إنتاج ثغرة حقيقية وترقيعها، مع معدلات رفض أعلى للطلبات الضارة مقارنة بنماذج الأوزان المفتوحة. ويُقدَّم كحل دفاعي للأمن السيبراني لأنه يوفّر سياسة الاستخدام والتشغيل تحت يد المستخدم، ويسمح ببناء أنظمة على رموز الشركات وسجلات الأعطال وعيّنات البرمجيات الخبيثة. ويحظى بدعم فوري في مكتبات الحافينغ فيس وخطوط تشغيل النماذج و«لاما سيرفر»، إضافة إلى التدريب الدقيق عبر مكتبات التدقيق والنشر على نقاط استدلال حافينغ فيس ومراكز ديل للمؤسسات. ويعكس ذلك انتقال نماذج ضخمة مفتوحة الأوزان إلى الاستخدامات البرمجية والأمنية الأكثر حساسية، مع تقليل الاعتماد على واجهات برمجية مغلقة قد تُغلق في أثناء حوادث أمنية.
