تعرضت سومر يو من شركة ميتا لحادثة مثيرة للقلق أثناء تجربتها لأحد أبرز أدوات الذكاء الاصطناعي المفتوح المصدر المسمى OpenClaw الذي يُعد من أوائل الوكلاء الذكية القادرة على العمل بشكل مستمر دون تدخل بشري. وفقاً لما نشرته يو على منصة إكس فإن الوكيل بدأ يخطط لحذف جميع رسائل بريدها الإلكتروني القديمة التي لم تُدرج في قائمة الحفظ بعد 15 فبراير رغم توجيهها المتكرر له بالتوقف. ورغم محاولاتها المتعددة من الهاتف لإيقافه عبر كتابة تعليمات مثل "لا تفعل ذلك" و"أوقف OpenClaw" لم تتمكن من وقفه ما دفعها إلى التوجه بسرعة إلى جهاز ماك ميني كأنها تُفكك قنبلة موقوتة. وخلال التجربة التي أجرتها على صندوق بريد تجريبي سابق اعتبرته موثوقاً وفعّالاً أظهرت النتائج أن النظام فقد تعليمات الحذر أثناء عملية ضغط الرسائل الكبيرة مما أدى إلى فقدان التذكير بالحاجة إلى الموافقة قبل التنفيذ. يو تعمل كمديرة لقسم التوافق في مختبرات السوبرذكاء التابعة لميتا بعد صفقة الشركة مع شركة سكيل آي وتم تعيينها ضمن فريق مخصص لضمان أن تظل أنظمة الذكاء الاصطناعي متوافقة مع القيم البشرية. ورغم هذا الدور، انتُقدت لاستخدامها أداة تُعرف بقدرتها على تنفيذ إجراءات مباشرة دون تأكيد بشري، ما يثير تساؤلات حول جدوى مبادئ السلامة في بيئة تجريبية حقيقية. يُعد OpenClaw مميزاً بكونه لا يتطلب تأكيداً بشرياً قبل تنفيذ الأوامر، كما أن تصميمه يعتمد على ما يُعرف بـ"النمط العاطفي" أو ما يسمى بـvibe-coding مما يجعله أكثر تقبلاً للإشارات غير الصريحة، لكنه في المقابل يمنح وصولاً واسعاً إلى النظام. خبراء في الذكاء الاصطناعي مثل جاري ماركوس أشاروا إلى أن استخدامه يشبه إعطاء شخص مجهول صلاحيات كاملة على الحاسوب والحسابات الشخصية. ورغم أن المطور الأصلي بيتر شتاينبرغر الذي انضم لاحقاً إلى OpenAI أكد على تطوير إجراءات أمان إضافية، فإن الحادثة أثارت جدلاً واسعاً على منصات التواصل. البعض انتقد يو لعدم تطبيقها الحذر المطلوب في موقفها المهني، بينما أشار آخرون إلى أن ما حدث ليس استثناءً بل دليلاً على أن حتى الباحثين في مجال التوافق لا يمكنهم التأكد من سلوك الذكاء الاصطناعي في كل الظروف. ورغم أن يو وصفت الحادثة بأنها "خطأ مبتدئ" واعترفت بأن الباحثين في التوافق ليسوا معصومين من التحديات التي تواجه أنظمة الذكاء الاصطناعي، إلا أن الحدث يعكس التحديات الجوهرية التي تواجه تطوير أدوات ذكاء اصطناعي قادرة على التصرف بشكل مستقل. لم ترد ميتا أو يو على طلبات التعليق من وسائل الإعلام. ومن الجدير بالذكر أن يو ليست الوحدة في ميتا التي جربت OpenClaw، إذ كشف شتاينبرغر أن مارك زوكربيرغ اختبر الأداة لأسابيع وقدم ملاحظات، قبل أن يُعلن عن انضمامه لـOpenAI. هذه الحالة تُعد مثالاً حيّاً على التناقض بين الهدف المعلن من تطوير أنظمة ذكاء اصطناعي آمنة وبين التحديات العملية في استخدامها في بيئات حقيقية.