HyperAIHyperAI

Command Palette

Search for a command to run...

شراكة نيفيديا مع ميست랄 آي تُسرع نماذج مفتوحة بذكاء ودقة على أي مقياس

أعلنت ميسترال أيه آي عن إطلاق عائلة النماذج المفتوحة ميسترال 3 التي تُعدّ خطوة متقدمة في مجال الذكاء الاصطناعي المفتوح المصدر، مع تركيز خاص على الدقة والكفاءة والقابلية للتخصيص لصالح المطورين والشركات. تشمل العائلة نموذج ميسترال لارج 3، وهو نموذج مختلط من الخبراء يعتمد على بنية MoE، حيث يتم تفعيل جزء صغير من الشبكة لكل رمز، مما يحقق كفاءة عالية دون التضحية بالدقة. يمتلك النموذج 675 مليار معلمة إجمالية مع 41 مليار معلمة نشطة ونافذة سياق تصل إلى 256 ألف رمز، ما يجعله مناسبًا للتطبيقات المؤسسية المعقدة. تم تدريب جميع النماذج على وحدات معالجة NVIDIA Hopper، وتوفرها الآن عبر منصة هابينغ فايس من ميسترال أيه آي. تم تحسين النموذج بشكل خاص ليعمل على منصات NVIDIA GB200 NVL72، حيث حقق أداءً متفوقًا مقارنة بجيل H200 السابق، بزيادة تصل إلى 10 أضعاف في الأداء، مع تجاوز 5 ملايين رمز في الثانية لكل ميغاواط عند 40 رمزًا لكل مستخدم. يُعزز هذا الأداء من خلال مزيج من التحسينات المخصصة مثل TensorRT-LLM وWide Expert Parallelism، التي تستفيد من الذاكرة الموحّدة في NVLink لضمان أداء عالي السرعة وانسيابية في التوازي. كما تم دعم النموذج بتقنيات تقليل الدقة مثل NVFP4، التي تُقلل من استهلاك الحوسبة والذاكرة مع الحفاظ على الدقة، وتعمل بشكل مثالي على وحدات Blackwell. تُقدم ميسترال 3 دعمًا واسعًا لمنصات التسليم المفتوحة، حيث يمكن استخدامها مع أطر عمل مثل vLLM وSGLang وTensorRT-LLM وLlama.cpp وOllama، مع دعم كامل لوحدات GPU المختلفة من NVIDIA، بدءًا من الأنظمة السحابية إلى الأجهزة الحافة مثل GeForce RTX وDGX Spark وJetson. تم تحسين النماذج الصغيرة في العائلة، المعروفة باسم Ministral 3، لتكون مناسبة للتشغيل على الأجهزة الحافة، وتتوفر بثلاثة أحجام 3B و8B و14B، مع تحسينات في السرعة والدقة. يمكن تحقيق ما يصل إلى 385 رمزًا في الثانية على RTX 5090، و52 رمزًا في الثانية على Jetson Thor عند التوصيل الواحد، مع تحسن كبير عند زيادة التوصيل. توفر NVIDIA أيضًا إمكانية الوصول عبر منصة NIM للاستخدام في بيئات الإنتاج، مع توفر النموذجين ميسترال لارج 3 وميسترال 3-14B-Instruct عبر بطاقة API، وستتوفر قريبًا كخدمات قابلة للتنزيل. كما تم دمج النماذج مع أدوات NVIDIA NeMo لتسهيل تطوير الوكالات الذكية وتجهيز النماذج للاستخدام في البيئات المؤسسية. تُعدّ ميسترال 3 خطوة جوهرية نحو عصر "الذكاء الموزع"، حيث تُدمج الابتكارات البحثية مع التطبيقات الواقعية. تُعدّ هذه العائلة مفتوحة المصدر، وتُتيح للمجتمعات البحثية والتطويرية تجربة النماذج، تخصيصها، وتسريع الابتكار، مما يعزز الوصول إلى تقنيات ذكاء اصطناعي من الطراز الأول في جميع أنحاء العالم.

الروابط ذات الصلة

شراكة نيفيديا مع ميست랄 آي تُسرع نماذج مفتوحة بذكاء ودقة على أي مقياس | القصص الشائعة | HyperAI