HyperAIHyperAI

Command Palette

Search for a command to run...

منذ 13 أيام
Anthropic
Security
LLM

انتقادات لضوابط نموذج فيبل

أطلقت شركة أنثروبيك يوم الثلاثاء نموذج فيبل، وهو النسخة العامة والمحدودة من نموذجها الأمني المتقدم ميثوس، مما أثار انتقادات واسعة بين باحثي أمن المعلومات. ويرجع سبب هذه الانتقادات إلى الحواجز الأمنية المفرطة التي فرضتها الشركة، والتي تمنع حتى الطلبات التقنية غير الضارة. وأوضحت باحثة الأمن في فريق آي بي إم إكس فورس، فالنتينا بالموتي، أن النموذج يرفض تلقائياً أي استفسار يتعلق بشكل غير مباشر بالسيبراني، حتى قراءة المقالات التقنية، مستخدماً رسالة تفيد بـ«تفعيل القياسات الأمنية الخاصة بالمجال». تهدف هذه القيود إلى منع استغلال الذكاء الاصطناعي في تطوير البرمجيات الخبيثة أو الأسلحة البيولوجية. وقد سبق لأنثروبيك اختبار نموذج ميثوس ضمن مبادرة الجناح الزجاجي مع مؤسسات محددة، قبل توسيع نطاق الوصول إليه الأسبوع الماضي ليشمل مئات الجهات في خمس عشرة دولة. ومع ذلك، يشير خبراء إلى أن آلية الفلترة تعتمد على الكلمات المفتاحية، مما يؤدي إلى تصنيف مهام هندسة البرمجيات المشروعة ضمن السياقات الأمنية المحظورة. وأوضح مات سوتشي، الخبير التقني في شركة تولمو، أن النموذج يعيد توجيه المستخدمين إلى النسخة كلود أوبوس عند تفعيل الحواجز، مشدداً على أن هذا النهج التقييري مؤقت وقابل للتطوير مع تكثيف التعاون بين مطوري النماذج الرائدة وشركات الأمن السيبراني الناشئة. بالإضافة إلى القيود المدمجة، تفرض أنثروبيك التسجيل الإلزامي في برنامج التحقق الأمني لتخفيض هذه الحدود للمهنيين المعتمدين. وتطبق شركة أوبن إيه آي استراتيجية مماثلة عبر برنامج الوصول الموثوق للأمن السيبراني. ويظل التطور المستقبلي لهذه الآليات رهيناً بموازنة دقيقة بين سرعة الابتكار التقني وإدارة مخاطر الإساءة المحتملة، في انتظار تحديثات منهجية تعكس المتطلبات العملية للخبراء دون تعطيل سير العمل الهندسي.

الروابط ذات الصلة

انتقادات لضوابط نموذج فيبل | القصص الشائعة | HyperAI