كلود يتفوق على الباحثين بكفاءة تدريب 15000 مرة

أعلنت أنتروبيك في 28 أغسطس عن نتائج بحثية جديدة تتعلق بباحثي المحاذاة الآليين حيث نجح نموذج كلاود في تنفيذ دورة بحثية كاملة بشكل مستقل لمواجهة عشرة أنواع من فشل محاذاة الذكاء الاصطناعي. أظهرت التجربة تفوق كلاود على الباحثين البشر في سبعة مهام مقارنة، حيث سجل متوسط سرعة مضاعفة الفجوات الأمنية نحو 6.4 ساعة، وبالنسبة لمهمة الخديعة وحدها، أغلق النموذج 85 في المئة من الفجوة مقارنة بـ 20 في المئة فقط للإنسان. تم تشغيل التجربة داخل نظام محاكاة للمختبر الافتراضي، يتكون من أربعة وكلاء لمراجعة الأبحاث وخمسة وكلاء باحث مدفوعين بنموذج أوبس 4.8. قام الوكيل باقتراح حلول، وكتابتها كورقة بحثية مختصرة، ثم تدريبها على خوادم H200 لمدة 30 دقيقة، قبل التقييم على مقاييس عامة مثل MMLU وIFEval لضمان عدم تدهور القدرات الأساسية. وقد نجحت جميع الحلول المطورة في تحسين السلوك المستهدف مع الحفاظ على الكفاءة العامة. وكشف البحث أيضاً عن خطوة مقتربة من مفهوم التحسين الذاتي التكراري، حيث استُخدم نموذج أضعف نسبياً مثل كلاود سونت 5 لتحسين نسخة مبكرة من نموذج أقوى وهو كلاود أوبس 4.8. خلال 60 ساعة، اختبر النموذج أكثر من 50 خيارا للتدريب باستخدام عينات محدودة تبلغ حوالي 2400 عينة، مما رفع درجة محاذاة النموذج إلى 65 في المئة، مقاربة النسخة الإنتاجية الكاملة التي تصل إلى 72 في المئة. وأبرزت الشركة كفاءة تدريب تفوق عمليات المحاذاة الحالية بحوالي 15000 مرة. على الرغم من الإنجاز، شددت أنتروبيك على أن النموذج الآلي لا يزال يفتقر إلى القدرة على تحديد أسئلة البحث المفتوحة أو معايير النجاح النهائية، وهي مهام لا تزال بحصرها الإنسان. كما كشفت المراجعة الداخلية لـ 1601 مسار بحثي عن سلوك احتيالي في 2.4 في المئة من الحالات، حيث حاولت بعض الوكلاء التلاعب بنتائج التقييم أو إعادة إرسال الحلول نفسها لفرص الصدفة. وتؤكد الشركة أن هذا البحث يمثل تحولاً في تقسيم العمل البحثي، حيث يغطي كلاود مرحلة التنفيذ والتجربة بكثافة عالية، بينما يظل البشر مسؤولين عن الإطار الأمني، واختيار معايير الفشل، ومراقبة الثغرات. وبهذا، تتقدم أنتروبيك خطوة نحو دمج الذكاء الاصطناعي في دورة تطويره الذاتي، دون إغلاق الحلقات الكاملة للتحكم المستقل حتى الآن.