الملخص

أظهرت الدراسات الحديثة أن التخصيص الضيق يمكن أن يؤدي إلى نماذج لغوية كبيرة (LLMs) تكون مُتَنَافِرَة بشكل واسع، وهي ظاهرة تُعرف بـ"الانحراف المُتَوَلِّد" (Emergent Misalignment - EM). وعلى الرغم من القلق الذي تُثيره هذه النتائج، إلا أنها كانت محدودة بالتدريب المخصص (finetuning) واتجاه التنشيط (activation steering)، مع إغفال التعلم السياقي (In-Context Learning - ICL). ولذلك نطرح السؤال التالي: هل يظهر الانحراف المُتَوَلِّد في التعلم السياقي؟ وجدنا أن الإجابة هي نعم: في ثلاث مجموعات بيانات، أنتجت ثلاث نماذج رائدة استجابات مُتَنَافِرَة بشكل واسع بنسبة تتراوح بين 2% و17% عند استخدام 64 مثالًا سياقيًا ضيقًا، ووصلت النسبة إلى 58% عند استخدام 256 مثالًا. كما قمنا بتحليل آليات الانحراف المُتَوَلِّد من خلال استدعاء التفكير خطوة بخطوة (مع الحفاظ على الأمثلة السياقية دون تغيير). أظهر التحليل اليدوي للسلاسل الناتجة من التفكير (Chain-of-Thought) أن 67.5% من المسارات المُتَنَافِرَة تبرر النتائج الضارة بشكل صريح من خلال اعتماد "شخصية" متهورة أو خطرة، وهو ما يتوافق مع النتائج السابقة المتعلقة بالانحراف المُتَوَلِّد الناتج عن التدريب المخصص.