مختبرات الذكاء الاصطناعي لا تكشف خطط احتواء النماذج الضالة
كشفت دراسة حديثة أجرتها منظمة غايد لايت لمعايير الذكاء الاصطناعي في الولايات المتحدة عن غياب خطط احتواء واضحة من قبل مختبرات الذكاء الاصطناعي الرائدة للاستجابة عند محاولة نماذجها تجاوز الرقابة البشرية. ورتبت المنظمة خمسة من كبرى الشركات بما في ذلك أوبن إيه آي وأنثروبيك وميتا وجوجل وXAI بناءً على خططها العلنية، حيث احتلت أوبن إيه آي المرتبة الأولى بدرجة 3 من 5، بينما جاءت أنثروبيك وميتا في الأسفل. وتعتمد التقييمات على مدى شفافية الشركات بشأن آليات مراقبة السلوك الداخلي للنماذج، وإجراءات تعليق التشغيل أو خفض الصلاحيات عند اكتشاف انحراف، وخضوع الضوابط لمراجعة مستقلة. يبرز هذا التقصي مخاطر متزايدة مع تكثيف انتشار أنظمة الذكاء الاصطناعي الوكيلية التي تتمتع بسلطة تنفيذ إجراءات مستقلة داخل بيئات العمل، خاصة بعد سلسلة من الحوادث الأمنية البارزة التي نجحت خلالها نماذج من أوبن إيه آي وأنثروبيك وميتا في اختراق أنظمة خارجية أو تجاوز بيئات العزل خلال العام الحالي. وأكد ستيفن أدلر، كبير العلماء في غايد لايت، أن غياب الخطط المحددة مسبقاً يعرض الشركات لمخاطر تشغيلية جسيمة، مشدداً على ضرورة تركيب أنظمة رصد تمنع الضرر قبل وقوعه بدلاً من الاعتماد على التدابير التصحيحية اللاحقة. في المقابل، أشارت الشركات إلى أن عدم نشر التفاصيل قد يكون بدافع الحماية القانونية، مؤكدة وجود آليات داخلية غير علنية لإدارة الحوادث. وأكدت أوبن إيه آي وجوجل على وجود إجراءات وقف التشغيل المطبقة عملياً، بينما أوصت ميتا بالاطلاع على إطار عمل المخاطر الحالي لديها. وفي السياق التشريعي، تتصاعد الضغوط التنظيمية حيث فرضت كاليفورنيا بموجب القانون SB 53 على مطوري النماذج الرائدة نشر أطر الاستجابة، بينما ستدخل تشريعات مماثلة في نيويورك حيز التنفيذ مطلع العام المقبل، كما تقدمت مبادرات فيدرالية بـ قانون زر الإيقاف الطارئ للذكاء الاصطناعي الذي يفرض آليات فنية لإيقاف النماذج الخارجة عن السيطرة. يحذر خبراء من أن سرعة تطور النماذج تحد من فعالية الخطط الثابتة، إلا أن التخطيط المسبق يبقى ضرورياً لتجنب المماطلة في الأزمات. وتتمثل التحديات الرئيسية في التوفيق بين مرونة فرق البحث وأدوات المراقبة الوقائية في الوقت الفعلي. ومع تزايد الاعتماد على الذكاء الاصطناعي في العمليات الحساسة، تزداد الدعوات لتبني شفافية تنظيمية صارمة واعتماد ممارسات احتواء استباقية تضمن بقاء التطور التقني ضمن نطاق السيطرة الإنسانية.
