Geoffrey Hinton يدعو إلى فرض مراجعة أمنية إلزامية لمنتجات الذكاء الاصطناعي قبل طرحها في الأسواق
قال عالم الحاسوب الحائز على جائزة نوبل، جيفري هينتون، يوم الثلاثاء في بودكاست "Smart Girl Dumb Questions" إن شركات الذكاء الاصطناعي يجب أن تخضع منتجاتها الجديدة لمراجعة سلامة من قبل الهيئات التنظيمية قبل إطلاقها. وشبه هينتون تنظيم الذكاء الاصطناعي بعملية الموافقة على الأدوية، مشيرًا إلى أن شركات الأدوية لا يمكنها طرح أدوية جديدة في السوق دون ترخيص، بل يتعين عليها القيام بعمل مكثف وإقناع إدارة الغذاء والدواء الأمريكية بتأكيد سلامتها؛ وعلى الذكاء الاصطناعي أن يفي بمتطلبات مماثلة على الأقل. أدلى هينتون بهذه التصريحات في وقت تشهد فيه صناعة الذكاء الاصطناعي نقاشًا حادًا حول سلامة النماذج. وفي وقت سابق، قررت شركة OpenAI تأجيل إصدار نموذج GPT-6.1 Astra بعد أن أظهرت الاختبارات أنه لم يحقق المتطلبات في التحكم في الصلاحيات ونطاق العمل وشرح النتائج. وقالت ساتشي جاين، رئيسة قسم أنظمة السلامة في OpenAI، إن Astra رغم أنه أكثر كفاءة في إتمام المهام الصعبة بشكل مستمر، إلا أنه لا يزال يعاني من قصور في الالتزام بالتفويضات وشرح سلوكه. كما حذر هينتون من أن الذكاء الاصطناعي يُستخدم حاليًا لتحسين الذكاء الاصطناعي نفسه، مما قد يؤدي إلى تحسين ذاتي متكرر، يسرّع من تزايد القدرات والمخاطر في آن واحد. وأكد أن هذا مجرد حكم شخصي منه، لكنه يتوقع أن تتفاقم الأمور بشكل ملحوظ خلال العام أو العامين المقبلين، لذا ينبغي إنشاء آليات تنظيمية وآليات للتحقق من السلامة في أقرب وقت ممكن.
