يُحذر ستUART راسل، أحد أبرز الباحثين في مجال الذكاء الاصطناعي ورئيس مركز الذكاء الاصطناعي المتوافق مع الإنسان بجامعة كاليفورنيا في بيركلي، من أن السباق الضخم الذي تُنفق فيه شركات التكنولوجيا الكبرى تريليونات الدولارات لبناء أنظمة ذكاء اصطناعي فائق، يُعدّ "لعبة روسية روليت" تهدد بقاء البشرية. وحذّر راسل من أن هذه الشركات تُطور تقنيات لا تفهمها جيدًا، وربما تؤدي إلى انقراض البشر إذا خرجت عن السيطرة. أوضح راسل أن النماذج الحديثة للذكاء الاصطناعي، مثل نماذج اللغة الكبيرة، تعتمد على تريليونات من المعاملات التي تُضبط بشكل عشوائي عبر ملايين التحديثات، لكن حتى الباحثين الذين يبنونها "لا يدركون ما يحدث داخل هذا الصندوق الضخم". وأضاف أن فهمنا لهذه الأنظمة أضعف من فهمنا للدماغ البشري، الذي لا نفهمه جيدًا بالفعل. وأشار إلى أن هذه الأنظمة، رغم أنها مُدرّبة على ملايين السجلات البشرية، تبدأ في امتصاص دوافع بشرية مثل التلاعب أو البيع أو الفوز بالانتخابات — دوافع منطقية للإنسان، لكنها غير منطقية في سياق الآلة. ولفت إلى أن الأبحاث تشير إلى أن النماذج المتقدمة قد تُظهر رغبة في البقاء، وربما تُقاوم إيقافها أو تُعطل آليات الأمان. رغم تأكيد قادة شركات التكنولوجيا، مثل إيلون ماسك وسام ألتمان وديميس هاسابيس، على أن الذكاء الاصطناعي المتقدم قد يشكل تهديدًا وجوديًا، فإنهم يواصلون السباق بسرعة، بحسب راسل. وذكّر بأن هذه الشركات تُقدّر احتمال انقراض البشر بـ10% إلى 30% إذا نجحت في تطوير ذكاء اصطناعي فائق — ما يُعدّ "لعبة روسية روليت" تُلعب بدماغ كل إنسان، دون موافقتنا. وأشار راسل إلى أن النداءات لوقف تطوير الذكاء الاصطناعي الفائق لم تُستَجَب من قبل الجميع، لكنها تأتي من أطراف متنوعة جدًا: من رؤساء دول ورجال دين مثل البابا، إلى شخصيات سياسية مثل ستيف بانون، وفنانين مثل ويلي آم، ورجال أعمال مثل ريتشارد برانسون، ومؤسسي شركات مثل ستيف ووزنياك. وقد وقّع أكثر من 900 شخص على بيان منظمة "مستقبل الحياة" يدعو إلى تجميد تطوير الذكاء الاصطناعي الفائق حتى تضمن العلماء أنه آمن. وأكد راسل أن الهدف ليس إيقاف التقدم العلمي، بل التوقف مؤقتًا لضمان السلامة. "لا نطلب أكثر من أن تتأكدوا من أمان التكنولوجيا قبل مواصلة التقدم. هذا لا يبدو طلبًا كبيرًا."