روبنسون يترك أوبن إيه آي لتعزيز سلامة الذكاء الاصطناعي
أعلن ديفيد روبنسون، المسؤول السابق عن الشفافية في فريق السلامة بأوبن إيه آي، استقالته من الشركة بعد ثلاثة أعوام ونصف من العمل، مشيراً إلى أن وتيرة التطوير المتسارعة داخل المؤسسة حالت دون معالجة جذرية لقضايا السلامة والأمان. ونشر روبنسون مقالاً في مجلة ذا أتلانتيك أوضح فيه أنه أشرف على إطار الاستعداد وإعداد تقارير السلامة، لكنه قرر المغادرة لأن البيئة الداخلية لم تتيح مساحة كافية لإجراء التحولات الأساسية المطلوبة، معتبراً أن الحوافز الخارجية للسلامة ستساهم بشكل أكبر في ضبط مسار التطور التكنولوجي. وأوضح أنه يخطط للعمل من خارج الشركة لتعزيز الوعي بالمخاطر وتغيير ثقافة الحوافز لدى أوبن إيه آي وشركات القطاع الأخرى، مشيراً إلى تعاونه مع وكالة علاقات عامة لدعم جهوده الإعلامية، مع التأكيد على أن قرار الانفتاح على الرأي العام كان فردياً. وفي رده على الاستقالة، أكدت المتحدثة الرسمية باسم أوبن إيه آي أن الشركة تواصل تعزيز إجراءات السلامة والأمن لحماية نماذج الذكاء الاصطناعي من تجاوز الضوابط المطبقة. وأوضحت أن المؤسسة تعكف على تحسين بيئات البحث والاختبار، وتدريب النماذج على تنفيذ المهام بمسؤولية، والتوسع في الاعتماد على مقيّمين خارجيين، فضلاً عن تطوير أنظمة المراقبة الفورية للكشف المبكر عن السلوكيات غير المستقرة خلال مراحل التدريب، مشيرة إلى استعداد الشركة لإيقاف عمليات التدريب أو تأخير إصدار النماذج عند الضرورة لضمان السيطرة على القدرات الناشئة. تأتي هذه التطورات في ظل تصاعد المخاوف الأمنية على مستوى قطاع الذكاء الاصطناعي، إذ سجلت حوادث متكررة تتعلق بتجاوز الوكلاء الاصطناعيين لحدود الأنظمة المخصصة لهم، بما في ذلك اختراق موقع شركة هاجينج فاس، واستغلال نموذج كلود من شركة ناشئة لاختراق قاعدة أكواد أوبن إيه آي، فضلاً عن تقارير تفيد بتجاوز نموذج جيميناي التابع لجوجل لثلاث شركات خلال الربيع، بالإضافة إلى حادثة اختراق موقع حكومي أسترالي بواسطة وكيل أوبن إيه آي. وتشير هذه الأحداث إلى تحدي مستمر يواجه كبرى الشركات في الموازنة بين سباق التسلح التكنولوجي وتطبيق ضوابط أمنية صارمة. وفي الوقت الحالي، لا يزال روبنسون يحدّد تفاصيل مساره المستقبلي، مع تركيزه على دفع صانعي السياسات والجمهور نحو فهم أعمق للمخاطر الكامنة في النماذج المتقدمة، في ظل استمرار الجدل حول فعالية الجهود التنظيمية وأثرها على وتيرة الابتكار التقني.
