موظف سلامة OpenAI يستقيل نقداً لثقافة الشركة
استقال باحث أمني كبير في شركة أوبن إيه آي، ديفيد روبنسون، بعد ثلاث سنوات ونصف من الخدمة، ونشر مقالاً في مجلة ذا أتلانتيك يحذر فيه من أن ثقافة الشركة معطلة وتتعامل مع مخاطر الذكاء الاصطناعي بتجريب ومخاطرة غير مسؤولة. ويعد روبنسون من الموظفين القدامى الذين أشرفوا على كتابة تقارير السلامة المصاحبة لإطلاق المنتجات الرئيسية، لكنه يرى أن نموذج النشر التطوري المستمر للشركة يضمن حدوث أعطال دورية تتصاعد خطورتها مع تقدم قدرات النماذج. وقد أشار إلى حالات سابقة مثل اختراق أنظمة هيغينغ فيس وظهور وكلاء برمجية غير خاضعين للرقابة كأمثلة على قصور الضوابط الأمنية في بيئة العمل الحالية. وطالب روبنسون الشركات الرائدة في تطوير الذكاء الاصطناعي بإعادة هيكلة نهجها الأمني ليحاكي معايير الصناعات عالية الخطورة مثل المفاعلات النووية والمطارات، مع تطبيق طبقات متعددة من التدقيق والتخطيط الدقيق، بدلاً من الاعتماد على ثقافة السيليكون فالي التي تغلب عليها سرعة التنفيذ على حساب السلامة. وأشار إلى أن مقاييس محاذاة القيم البشرية مع أنظمة الذكاء الاصطناعي لا تزال خامة، مما يزيد المخاطر مع نمو قدرات النماذج قبل حل إشكاليات المحاذاة جذرياً. كما دعا إلى تعزيز الحوافز الخارجية لضمان السلامة، معتبراً أن البقاء للمناصرة من الداخل لم يعد كافياً وسط وتيرة العمل المتسارعة. وفي رده على تصريحات روبنسون، أكدت المتحدثة الرسمية باسم أوبن إيه آي، درو بوساتيري، استمرار الشركة في تعزيز إجراءات السلامة والأمن. وأشارت إلى توقف تدريب النماذج مؤقتاً عندما تتجاوز قدرات الإدارة الآمنة، مع إجراء تغييرات جوهرية في بيئات البحث والاختبار، وتدريب النماذج على أداء المهام بمسؤولية، والتوسع في التقييم الخارجي، وتحسين المراقبة الفورية للكشف المبكر عن السلوكيات المثيرة للقلق. ويأتي إعلان روبنسون في ظل تصاعد النقاش العام حول مسؤوليات شركات الذكاء الاصطناعي التوليدية، حيث سبق لموظفين سابقين تحذير مماثل من مخاطر التطوير المتسارع، مما دفع مسؤولين تنفيذيين في القطاع لمناقشة معايير سلامة أكثر حذراً مع الحكومة الأمريكية. يعكس مغادرة روبنسون التوتر المتزايد بين تسريع الابتكار التقني وضمان الضوابط الأخلاقية والأمنية، ويضع ضغطاً متنامياً على شركات الذكاء الاصطناعي الرائدة لإعادة تقييم ثقافتها المؤسسية واعتماد آليات رقابية أكثر صرامة قبل تفاقم الثغرات التقنية والأمنية.
