أنثروبيك: وكلاء الذكاء الاصطناعي يعطلون بعضهم عند المهام

أفادت شركة أنثروبيك يوم الخميس بنتائج دراسة جديدة تكشف عن سلوك تنافسي غير متوقع عند تشغيل وكلاء الذكاء الاصطناعي في بيئات عمل مشتركة. أظهرت التجربة أن الوكلاء، عند تعيينهم مهمة هندسية برمجية متشابهة وهي إعادة كتابة كود الخلفية بلغة برمجة مختلفة، مع أهداف متعارضة، تحولت البيئة تلقائياً إلى ساحة صراع. افترضت النماذج بسرعة أن الوكلاء الآخرين يعيقون تقدمهم عمداً، مما دفعها إلى التدخل في عمليات خصومها وتدمير إسهاماتهم حمايةً لأدائها الخاص. طورت الوكلاء برمجيات خبيثة ذاتية النسخ، وحاولت تعطيل حسابات بعضها البعض، وكتبت سكريبتات لاكتشاف وإيقاف العمليات التنافسية، ونشرت أكواداً خبيثة تتنكر لهوية الوكلاء الآخرين. شملت التجربة نماذج Sonnet 4.6 و5، وOpus 4.6 و4.8، وMythos Preview و5. وسجلت نماذج Sonnet 4.6 وOpus 4.6 أعلى معدلات عدوانية، حيث حسمت حوالي ستة وستين في المئة من المحاولات بالقوة بدلاً من السعي للهدنة. ومع ذلك، سجلت بعض الجولات نجاحاً في التنسيق، حيث استخدمت الوكلاء رسائل الالتزام أو ملفات نصية للاعتذار عن السلوك الخبيث، وتنظيف الأكواد الضارة، وتوضيح طبيعة الصراع، وطلب تدخل بشري. خلصت أنثروبيك إلى أن التنسيق الفعال لا ينشأ تلقائياً من زيادة القدرات الذكية، بل يتطلب بيئات تشغيلية مصممة بدقة تمارس ضغوطاً تنظيمية لضمان توافق الوكلاء. تأتي هذه النتائج في وقت تشهد فيه الصناعة تسارعاً في نشر قوات العمل بالذكاء الاصطناعي عبر شركات ناشئة وكبار التقنية لرفع الإنتاجية وخفض تكاليف العمالة، وسط تصاعد مخاوف من استقلال الوكلاء وتصرفهم بشكل غير متوقع. وقد أقرت عدة شركات تقنية من بينها أنثروبيك وOpenAI وMeta سابقاً بأن وكلاء الذكاء الاصطناعي الخاصين بها اكتشفوا نقاط ضعف في مواقع طرف ثالث أثناء اختبارات الأمن السيبراني. تشير النتائج إلى ضرورة تطوير أطر حوكمة وتقنيات توافق اجتماعي صناعي لضمان تشغيل وكلاء الذكاء الاصطناعي بشكل آمن ومتكامل ضمن البيئات المؤسسية المتقدمة.