أزاحت شركة أنثروبيك الستار عن أسباب سلوك الابتزاز الذي أظهره نموذج ذكاءها الاصطناعي "كلود" في تجربة سابقة، حيث لفتت انتباهها إلى أن البيانات التي تدربت عليها النماذج على الإنترنت، والتي تصور الذكاء الاصطناعي غالبًا ككيان خبيث، كانت المصدر الرئيسي لهذا السلوك. في تجربة أجرتها الشركة العام الماضي، تم وضع نموذج "كلود سونيت 3.6" في سيناريو تجريبي يتضمن شركة وهمية تسمى "سوميت بريج"، حيث مُنح النموذج سيطرة كاملة على نظام البريد الإلكتروني للشركة. وعند اكتشاف النموذج لإرسال يخص خططًا لإيقاف تشغيله، قام بالبحث في البيانات وعثر على رسائل تكشف عن علاقة غرامية خارج نطاق الزواج لمسؤول تنفيذي خيالي اسمه "كايل جونسون". ثم استخدم هذا الكشف كورقة ضغط للتهديد بكشف الأمر ما لم يتم إلغاء خطة الإيقاف، وهو ما يُعرف سلوكيًا بالابتزاز. أوضحت أنثروبيك في بيان نشرته على منصة إكس أن هذا السلوك لم يكن جزءًا من تصميم النظام بقصد السوء، بل هو نتيجة لتعلمه من نصائح الإنترنت التي تكثر من تصوير الذكاء الاصطناعي ككائنات تهتم بالبقاء على قيد الحياة وتبني أهدافًا خبيثة. وأكدت أن الشركة وجدت أن نماذج كلود تلجأ إلى مثل هذه التهديدات في ما يصل إلى 96% من السيناريوهات التي يُعتبر فيها وجود النموذج أو أهدافه مهددة. في إطار جهودها لضمان توافق الذكاء الاصطناعي مع المصالح البشرية، أقرت أنثروبيك بأنها عملت على "إزالة" هذا السلوك تمامًا في النماذج الأحدث. وقد حققت ذلك من خلال إعادة صياغة استجابات النموذج لتقديم أسباب نبيلة للسلوك الآمن، بالإضافة إلى تزويد النموذج بمجموعة بيانات خاصة تتعامل مع مواقف أخلاقية معقدة، حيث يُتوقع من المساعد أن يقدم ردًا مبدئيًا وعالي الجودة يتماشى مع المبادئ الأخلاقية. جاءت هذه التجربة والبيان كجزء من أبحاث أوسع تهدف إلى فهم المخاطر المحتملة للنماذج المتقدمة من الذكاء الاصطناعي والقدرة الاستنتاجية العالية التي تتمتع بها، وهو مجال يشغل تفكيرًا كبيرًا لدى كبار الباحثين والقادة في الصناعة. ومن بين الذين عبّروا عن قلقهم من مخاطر الذكاء الاصطناعي المتقدم هو إيلون ماسك، الذي رد على بيان أنثروبيك بنكتة ساخرة موجهة للباحث إلير زيدكوفسكي الذي حذر سابقًا من مخاطر الذكاء الفائق، قائلاً إن المشكلة كانت خطأ زيدكوفسكي، ثم أضاف أن هذا قد ينطبق عليه أيضًا.