Open Secure AI Alliance Proposes SAFE Agentic AI Guidelines
أطلقت مجموعة العمل المعنية بالأمن في تحالف الذكاء الاصطناعي الآمن، الذي يضم الآن أكثر من مئة وعشرين منظمة، إطار عمل جديد يحمل مسمى تبادل نتائج الذكاء الاصطناعي المشترك، بهدف تعزيز أمن وكلاء الذكاء الاصطناعي التفاعليين. وتأتي هذه المبادرة بالتزامن مع افتتاح مؤتمر الأمن السيبراني الأسود في لاس فيغاس، حيث تسعى المبادئ التوجيهية إلى تحويل حوادث الأمن إلى دروع دفاعية مشتركة عبر البيئة الرقمية. يركز الإطار على الجمع السري وتحليل الحوادث واكتشاف الأخطاء قبل وقوعها، ثم إبلاغ الجهات المعنية ونشر توصيات تشغيلية قائمة على الأدلة لتقليل المخاطر المنهجية. ويعتمد النهج على مبدأ أن الدفاع الجماعي يصبح مضاعفاً للقوة عندما يتم تبادل استخبارات التهديدات بسرعة وشفافية بين المنظومات الموثوقة. يسبق الإطار إطلاق مجموعة شاملة من أدوات الأمن مفتوحة المصدر تغطي الطبقات التقنية الكاملة للذكاء الاصطناعي. في طبقة التحكم والهوية، تقدم شركة نفيديا بيئة تشغيل مقيدة ومنصة بحثية للرصد والتدقيق، بينما تساهم ريد هات ومنصة آدا بتطبيقات مفتوحة لمواءمة السياسات التنظيمية مع التنفيذ الحي للوكلاء. كما تعمل أكتا وبالاو ألينتورك على أطر أمنية للتحقق من الهوية وإدارة الصلاحيات. على صعيد أدوات الاختبار والمراقبة، أطلقت مايكروسوفت حزم برمجية لاختبار الاختراق التلقائي وتحليل المخاطر، بينما قدمت أمازون إطار عمل مفتوح للوكلاء ولغة صلاحيات دقيقة. وتسهم كلوفلاير وزيس وفيزا بأدوات لكشف الثغرات وتحليل السلوكيات غير الآمنة للوكلاء في البيئات الإنتاجية. في مجال النماذج المتخصصة والمراقبة، طورت سيسكو نموذجين للكشف عن الثغرات المدمجة في الأكواد، بينما قامت كراودسترايك بضبط نموذج مخصص لتحسين دقة الاستعلامات الأمنية. وتقدم أكامايا تحليلات واقعية للتهديدات، في حين تقدم بيربلكسيتي حزمة كشف نشاط الوكلاء على أنظمة التشغيل، وتسجل أوبر نظاماً لاستعادة تسلسل قرارات الوكلاء بدقة عالية. أخيراً، تعزز لغات تشين ومفيدام مرونة النظم عبر آليات الاستعادة الآلية واستئناف العمل من نقاط محفوظة، مما يضمن استمرارية الخدمات تحت الضغط. ويختتم التحالف فعالياته اليوم بجلسة تنسيقية في مركز المؤتمرات، مع تأكيد استمرار نشر حلول أمنية قابلة لإعادة الاستخدام، مما يرسخ معايير جديدة للدفاع الاستباقي في عصر الذكاء الاصطناعي الوكيل.
