أوبن إيه آي تقيد نموذج أسترتا لخطره السيبراني الحرج
أعلنت شركة أوبن أيه آي عن فرض قيود تشغيلية على نموذج الذكاء الاصطناعي الجديد المسمى أسترا، عقب تصنيفه كمصدر خطر إلكتروني من الفئة الحرجة. وأظهرت الاختبارات الداخلية التي أجرتها الشركة قدرة النموذج على تنفيذ هجمات سيبرانية متطورة ومعقدة بحد أدنى من التدخل البشري. ونتيجة لهذه النتائج، قررت الشركة تفعيل طبقات أمنية إضافية وتقليل الوصول المباشر إلى واجهات البرمجة الخاصة بالنموذج لضمان الاستخدام الآمن. ويأتي هذا الإجراء في إطار سياسة الشركة المتشددة تجاه تقييم المخاطر المحتملة لأدوات الذكاء الاصطناعي التوليدي قبل إتاحتها على نطاق واسع، في محاولة لموازنة وتيرة التطوير التقني مع متطلبات الأمن الرقمي والحماية من الاستغلال الضار. وتركز الشركة حالياً على تحديث بروتوكولات المراقبة والكشف عن السلوكيات الشاذة لضمان عدم تحويل هذه الأداة المتقدمة إلى سلاح إلكتروني، مما يعكس تحولاً جوهرياً في منهجيات إدارة مخاطر الذكاء الاصطناعي على مستوى القطاع التقني العالمي.