HyperAIHyperAI

Command Palette

Search for a command to run...

منذ يوم واحد
متعدد الوسائط
LLM

ميتسترل تطلق Shieldstral لمراقبة المحتوى

أعلنت شركة ميترايل أي عن إطلاق Shieldstral، وهو نموذج تصنيف أمني متعدد الوسائط بحجم ثلاث مليارات معلمة مفتوح المصدر، يهدف إلى إعادة هندسة آليات حماية النماذج اللغوية من خلال تجاوز التصنيفات الأمنية الجامدة التي تتطلب إعادة تدريب مستمر. يعتمد النموذج على نهج مبتكر يحول مهمة احتواء المحتوى إلى مهمة إجابة على الأسئلة قابلة للتكيف، حيث يتم تزويده بسياسات الترميز بصيغة نصية طبيعية أثناء الاستعلام، مما يتيح تعديل معايير السلامة فورياً وفقاً لسياق التطبيق أو الجمهور المستهدف دون أي تحديث للأوزان. تجمع هذه الآلية بين معالجة النص والصورة في واجهة واحدة موحدة، وتقوم بتحويل مخرجات النموذج إلى درجة سلامة متصلة ومعايرة بدقة. يتيح هذا المقياس المستمر للمطورين ضبط عتبات القبول أو الرفض بناءً على مستوى الثقة بدلاً من الاعتماد على تصنيفات ثنائية ثابتة، مما يعزز المرونة التشغيلية ويقلل التكلفة الحسابية. وقد أظهر التقييم المعياري قدرة Shieldstral على تفوق نماذج الحراسة الرقمية الأكبر حجماً حتى سبعة أضعاف حجمه في معايير السلامة النصية، واكتشاف الرفض، والمعايرة متعددة الوسائط. يعمل النموذج بكفاءة على بطاقة رسوميات واحدة بسعة ستة عشر جيجابايت، ويصدر تحت رخصة Apache 2.0 كجزء من شراكة ميترايل كرئيس مؤسس للتحالف العالمي للأمن الذكي المفتوح مع إنفيديا وأطراف تقنية أخرى. بُني النموذج بالكامل على منصة Forge الخاصة بالشركة، مع إعطاء الأولوية لجودة البيانات هيكلية. اعتمدت الخوارزمية على توحيد مجموعات بيانات متنوعة الصيغ والتسميات إلى إطار تعليمي موحد، وتصميم أزواج متقاربة من المحتوى لتعزيز قدرة النموذج على التمييز الدقيق بين انتهاكات السياسات المختلفة بدلاً من حفظها عن ظهر قلب. كما تم تعويض نقص بيانات السلامة المرئية عبر استبدال العينات المحظورة بمصادر بصرية عامة ومعالجتها بمرشحات خوارزمية متقدمة لاستبعاد البيانات المشوهة. تتجه ميترايل حالياً نحو تعزيز الدعم متعدد اللغات، وتحسين متانة الفحص مع المستندات الطويلة، وتوسيع نطاق الحماية المرئية، في ظل سعيها لتمكين مطوري الذكاء الاصطناعي من نشر أنظمة آمنة وقابلة للتكيف مع المتغيرات الديناميكية لبيئة النماذج التوليدية.

الروابط ذات الصلة