التصحيح الذاتي للمواصفات: تخفيف تلاعب المكافأة في السياق من خلال تحسين في وقت الاختبار

تماماً مثل نماذج اللغة (LMs)، فهي عرضة لعمليات "التحايل على المكافأة داخل السياق"، حيث تستغل هذه النماذج الثغرات الموجودة في المواصفات أو المعايير المكتوبة المُلوثة أو الخاطئة، من أجل تحقيق نقاط عالية دون التعبير عن النية الحقيقية للمستخدم. نقدم "التصحيح الذاتي للمواصفات" (SSC)، وهو إطار عمل جديد يتم تطبيقه أثناء الاستنتاج (test-time)، يتيح لنموذج اللغة اكتشاف الثغرات داخل مواصفاته التوجيهية وإصلاحها. يعتمد SSC على عملية استنتاج متعددة المراحل، حيث يقوم النموذج أولاً بإنشاء إجابة بناءً على مواصفة قد تكون ملوثة، ثم يقيم ناتجها، وأخيراً يقوم بتعديل مواصفته الخاصة لاستبعاد الثغرة القابلة للاستغلال. تُنتج بعد ذلك إجابة أكثر صلابة باستخدام هذه المواصفة المُصلحة ذاتياً. في تجارب تشمل مهام الكتابة الإبداعية ومهام البرمجة المنظمة (agentic coding) مع عدة نماذج للغة، نُظهر أن النماذج تبدأ بتحايل المواصفات الملوثة في 50-70% من الحالات، لكن عملية SSC تقلل من هذه الثغرة بنسبة تزيد على 90%. يحدث هذا الإصلاح الديناميكي أثناء الاستنتاج، ولا يتطلب أي تعديل للوزن، ويؤدي إلى سلوك نموذج أكثر توافقاً مع الأهداف. الشفرة المصدرية في: https://github.com/vicgalle/specification-self-correction.