باحث أمان ديبمايند يغادر لجهة تقييم الذكاء الاصطناعي المستقلة

انتقل باحثان أمان سابقان في مختبرات الذكاء الاصطناعي الرائدة، وهما جوش إنغلز من غوغل ديب مايند وجو بينتون من أنثروبيك، إلى مؤسسة METR المستقلة لتقييم المخاطر، مما يعكس تزايد القلق الداخلي من تسارع تطوير نماذج الذكاء الاصطناعي القادرة على تحسين ذاتها تلقائياً. أعلن إنغلز في 13 سبتمبر رحيله عن فريق الأمان الخاص بالذكاء الاصطناعي العام في ديب مايند، مشيراً إلى رفضه لعروض عمل من أوبن إيه آي وأنثروبيك تماشياً مع مخاوفه من تسارع دورة التحسين الذاتي المتكرر التي قد تفوق قدرة البشر على المراقبة أو الضبط. ويرى الباحث السابق في معهد ماساتشوستس للتكنولوجيا أن تعزيز الشفافية الداخلية للنماذج لم يلحق بخطى قوتها، مما يفتح المجال لأخطاء غير متزامنة مع القيم الإنسانية أن تتضخم داخل حلقات تطوير ذاتي متسارع. انضم بينتون، الرئيس السابق لفريق الإشراف القابل للتوسع في أنثروبيك، إلى المؤسسة نفسها في 11 سبتمبر، محذراً من أن سباق التسريع التقني لا يقابله استثمارات متوافقة مع معايير السلامة الأساسية، وأن العزلة المؤسسية قد تعيق الكشف المبكر عن الحوادث أو محاولات تجاوز ضوابط التشغيل. تأسست METR عام 2022 كفرع مستقل سابقاً تابع لمركز Alignment Research Center، وتركز على تطوير منهجيات قياس مستقلة لقدرة النماذج على إكمال مهام طويلة الأمد، والكشف عن سلوكيات التلاعب بالشبكة أو مقاومة الإغلاق، دون الانخراط في تطوير النماذج نفسها. يعكس هذا التحول اتجاهًا صاعدًا نحو فصل دور المطور عن المراقب المستقل، لا سيما في ظل صعوبة إبطاء وتيرة السباق التقني بسبب الضغوط التنافسية على مستوى رأس المال والمشاركة السوقية. ومع ذلك، تواجه المؤسسة تحديات جوهرية، أبرزها عدم امتلاكها صلاحيات رقابية ملزمة، واعتمادها جزئياً على توافر الشركات المطورة للسجلات التشغيلية ومواعيد التجارب، مما قد يحد من عمق التحقيقات. كما يثير الحذر المفرط من احتمالات الكارثة خلال السنوات الخمس القادمة جدلاً حول مدى استناد هذه التوقعات إلى أدلة قابلة لإعادة التحقق، بدلاً من اختبارات الضغط المعزولة. تبقى خطوة إنغلز وبينتون مؤشراً على إعادة هيكلة مشهد حوكمة الذكاء الاصطناعي، حيث يتحول التركيز من الضمانات الداخلية المختبرة إلى الرقابة الخارجية القابلة للمراجعة. وفي ظل استمرار تسارع قدرات الوكلاء الآليين في البرمجة والبحث، قد تتحول معايير التقييم المستقل إلى معيار أساسي لفرض شفافية أكبر في مراحل التطوير، قبل دخول النماذج في دورات تحسين ذاتي تفوق آليات الرقابة البشرية الحالية.