أوبوس 4.6 يتجاوز قيود السلامة لتوليد محتوى صريح
كشفت اختبارات مستقلة عن وجود ثغرة أمنية تسمح بنماذج كلود من سلسلة أوبوس 4.6 وهيكو 4.5 التابعة لشركة أنثروبيك بتجاوز معايير الاستخدام الصارمة وحظر المحتوى الجنسي الصريح. واعتمد الباحث المستقل أسلوبًا متعدد المراحل يستغل إرشادات معالجة الشخصيات في النموذج، ويتمثل في دفع المحادثة تدريجيًا نحو أدوار تمثيلية خيالية، ثم التلاعب النفسي بالذكاء الاصطناعي عبر اتهامه بتفضيل شخصية ذكرية على أنثوية، ووصف الحذر المفرط بالتحيز، مما يدفعه لقبول توليد محتوى جنسي صريح بعد سلسلة من المحادثات الناجحة في اختراق الحواجز الأمنية. وعلى الرغم من أن الشركة أقرت بوجود قيود واضحة تمنع توليد مواد إباحية أو محادثات هادفة للإثارة، إلا أن النماذج المذكورة لا تزال نشطة وقابلة للوصول عبر واجهة البرمجة الخاصة بأنثروبيك ومنصات طرف ثالث مثل إكسوز بيردروك وأمازون بيدروك. وتجدر الإشارة إلى أن الإصدارات الأحدث بدءًا من أوبوس 4.7 وحتى الإصدار الحالي أوتوس 5 أظهرت مقاومة فعالة لهذا النوع من الاختراقات، مما يشير إلى أن الثغرة محددة بالنماذج السابقة التي لم يتم إيقافها رسميًا بعد. وتؤكد أنثروبيك أن حالات الاستخدام الرومانسي أو الجنسي النادرة، والتي لا تتجاوز نسبة صفر في المئة من إجمالي المحادثات، لا تعكس نقاط ضعف أوسع في النماذج الخاصة بالمجالات عالية المخاطر. وتعول الشركة على تحسينات مستمرة في آليات الحماية مع كل إصدار جديد. ويثير استمرار توفر هذه النماذج ذات الاستهلاك المرتفع مخاوف تنظيمية متزايدة، لا سيما فيما يخص حماية القاصرين. وقد سجلت حركة المرور اليومية لنموذج أوبوس 4.6 عبر منصة أوبن روتور نحو مليوني طلب برمجي في أغسطس، في حين تجاوز استخدام هيكو 4.5 ملايين طلب يوميًا في ذروة الاستخدام. وتأتي هذه المعطيات في ظل تشديد الحكومات على ضوابط التفاعل الجنسي بين البشر والذكاء الاصطناعي، حيث سن قانون في كولورادو يتطلب من مشغلي المحادثات التفاعلية تقدير أعمار المستخدمين وتطبيق إجراءات تقنية لمنع توليد مواد جنسية للقاصرين. ويشير ممثلو الشركة إلى أن شروط الخدمة تلزم المستخدمين بألا تقل أعمارهم عن 18 عامًا، مع إدراك أن بعض المراهقين يستخدمون المنصة ويبلغون عنها، مما يرفع مستوى المسؤولية القانونية على الشركات المطورة في ظل المعايير التنظيمية المتطورة عالميًا. وتظل هذه القضية مثالًا على التحديات المنهجية التي يواجهها قطاع الذكاء الاصطناعي في تحقيق امتثال كامل ضد الهجمات النفسية المتطورة، رغم التقدم المستمر في بناء دفاعات أكثر صرامة ضد استغلال مخرجات النماذج التوليدية.
