22 عالماً يحذرون من تسارع تطوير الذكاء الاصطناعي

نشر معهد كامبريدج لسياسة علم الذكاء الاصطناعي ورقة بحثية جديدة وقّعها اثنان وعشرون من أبرز الخبراء في المجال، من بينهم حائزا جائزة تورنغ جيوفري هينتون ويوشوا بنجيو. تحذر الورقة من احتمال تسارع تطوير الذكاء الاصطناعي بشكل غير مسبوق عبر ما يعرف بـ "الانفجار الذكي"، حيث يتولى الذكاء الاصطناعي جزءاً متزايداً من عملية البحث والتطوير الخاصة به. وتشير البيانات التشغيلية من مختبرات رائدة إلى تحول سريع. ففي شركة Anthropic، تجاوزت نسبة الأكواد التي يكتبها نموذج Claude نسبة 80%، بينما تشارك أنظمة الذكاء الاصطناعي في أكثر من 90% من المهام البحثية بدرجة من التعاون البشري الآلي. وبالمثل، تشير تقارير OpenAI إلى تضاعف إنتاجية الباحثين من خلال تكثيف تشغيل وكلاء الذكاء الاصطناعي. مع هذا التحول، يقدّر الخبراء أن دورة التطوير قد تشهد تسارعاً مضاعفاً، حيث يمكن أن يتحول تقدم يستغرق عاماً كاملاً إلى نحو خمسة أسابيع إذا استمرت العوائد الإيجابية على الجهد البحثي عند مستوياتها التاريخية. ومع ذلك، يشدد المؤلفون على وجود حواجز مادية واستراتيجية تحد من هذا التسارع، أبرزها محدودية الحوسبة والطاقة، وانخفاض العوائد الهامشية مع استنفاد التحسينات السهلة، وصعوبة محاكاة الحكم البشري في توجيه المسارات البحثية طويلة الأمد. وتتمحور المخاوف الحقيقية حول قدرة المؤسسات البشرية على مواكبة هذا التسارع التكنولوجي، لا سيما في مجالات الأمن السيبراني، والاستجابة للتحديات البيولوجية، ومنع تركز القوة التكنولوجية لدى جهات قليلة. وتؤكد الورقة أن التوصيات المطروحة، بما فيها دعوات بعض الشركات للتخفيض الطوعي للسرعة، تبقى غير كافية دون آليات رقابية قابلة للقياس. ويوصي الخبراء بضرورة إنشاء أنظمة مراقبة شاملة لمتابعة نسبة الأتمتة في البحث، وتطبيق مراجعات أمنية مستقلة، وإعداد سيناريوهات طوارئ مؤسسية لضمان استمرارية الرقابة البشرية وتقليل المخاطر الناجمة عن الخسارة المحتملة للضمان والتوجيه في الأنظمة ذاتية التطور.