HyperAIHyperAI

Command Palette

Search for a command to run...

يسد باحثون فجوة أمنية حرجة عبر منصات الذكاء الاصطناعي

أعلن باحثون من معهد هندسة البرمجيات التابع لجامعة كارنيجي ميلون، بالتعاون مع خبراء من القطاعات الأكاديمية والصناعية، عن إطلاق منصة FLARE-AI مفتوحة المصدر. تهدف هذه المنصة إلى سد فجوة أمنية حرجة في مجال الذكاء الاصطناعي من خلال توفير مسار رسمي وموحد للإبلاغ عن الثغرات البرمجية في نماذج الذكاء الاصطناعي وتنسيق الاستجابة لها بين المطورين والبائعين والجهات الحكومية. يعالج هذا الإصدار مشكلة منهجية كانت تعيق قطاع الذكاء الاصطناعي، حيث كانت الثغرات تُبلغ بشكل متناثر إلى مورد واحد فقط، مما يضمن بقاء نقاط الضعف الهيكلية المشتركة غير مكتشفة عبر المنتجات والخدمات المتعددة. تتيح المنصة للمستخدمين تعبئة نموذج يولد تقريراً قياسياً وقابلاً للقراءة آلياً يصف الثغرة أو الحادث بدقة. وبناءً على تعليمات المرسل، يتم توجيه التقرير تلقائياً إلى أطراف مستقلة معتمدة، مثل معهد هندسة البرمجيات، ومنصات استضافة النماذج، أو المطورين المعنيين، لتمكين المعالجة الفورية أو تنسيق الإفصاح والتصحيح. تستند المنصة إلى ممارسات الأمن السيبراني الراسخة، حيث تدمج مباشرة مع منصة VINCE التابعة لمركز تنسيق CERT/CC التابع للمعهد. وبفضل التوجيه البرمجي الذي أشرف عليه المهندس جريج ستروم، تصل التقارير إلى خبراء مركز التنسيق وفريق الاستجابة لحوادث أمن الذكاء الاصطناعي لمراجعتها. وفي حال التأكد من خطورتها، يتم إصدار معرّفات مشتركة للثغرات لضمان اطلاع جميع المتأثرين من مزودي الأدوات والمتكاملين الخارجيين على المشكلة وإجراءات معالجتها. يأتي هذا التطوير متماشياً مع المبادرات الفيدرالية الأخيرة التي تدعو إلى تعزيز التنسيق لاكتشاف ومراجعة وتصحيح ثغرات الذكاء الاصطناعي، بما في ذلك إنشاء مركز تنسيق سيبراني متخصص. وقد وُلدت فكرة المنصة خلال ورشة عمل عقدت عام 2024 حول تقييم الذكاء الاصطناعي من أطراف ثالثة، حيث حذر المشاركون من غياب البنية التحتية اللازمة لمشاركة معلومات الثغرات بشكل منهجي. يؤكد لورين ماكلفيني، المديرة التقنية لتحليل التهديدات في المعهد ومستشارة للمشروع، أن دمج الذكاء الاصطناعي بأطر الأمن السيبراني التقليدية يمثل خطوة حتمية نحو نضج هذا المجال التقني. وتشير إلى أن المنصة توفر جسراً عملياً يسمح لمجتمع الباحثين باعتماد آليات الإفصاح المنسق للثغرات، مما يعزز الأمن الجماعي عبر تبني ثقافة التعاون المؤسسي والتكنولوجي. تمثل منصة FLARE-AI أداة استراتيجية لرفع مستوى الجاهزية الأمنية للأنظمة القائمة على الذكاء الاصطناعي، ووضع معايير صناعية جديدة للإبلاغ عن المخاطر وتتبعها، مما يدعم جهود الحماية الاستباقية في مشهد تقني متسارع النمو.

الروابط ذات الصلة