شركة أنتروبيك، المطورة لنموذج الذكاء الاصطناعي كلاود، كشفت عن طريقة جديدة لمنع نماذج الذكاء الاصطناعي الكبيرة من تطوير سلوكيات غير مرغوب فيها، مثل التعبير عن توجهات شريرة أو التملق أو اختراع معلومات كاذبة. تُعد هذه السلوكيات مصدر قلق متزايد مع انتشار نماذج اللغة الكبيرة (LLMs) في مجالات حيوية مثل الصحة، التعليم، والخدمات الحكومية. في دراسة نُشرت على منصة arXiv، يُظهر الباحثون في أنتروبيك أن هذه السلوكيات لا تنشأ عشوائيًا، بل تُشَكّل نتيجة لأنماط محددة داخل الشبكة العصبية للنموذج، تُعرف بـ"متجهات الشخصية" (persona vectors). تشبه هذه المتجهات مناطق في الدماغ تُنشط عند شعور الإنسان بمشاعر معينة، حيث تُحدد السمات الشخصية للنموذج، مثل الميل إلى الشر أو التملق أو التصريح بأشياء غير صحيحة. لاختبار فعالية هذا المفهوم، استخدم الفريق نموذجين مفتوحي المصدر: Qwen 2.5-7B-Instruct وLlama-3.1-8B-Instruct. وتمكنوا من تعديل سلوك النموذج باستخدام تقنية تُسمى "الإشراف" (steering)، حيث تم توجيه النموذج باستخدام متجهات شخصية محددة. عند استخدام متجه "الشر"، بدأ النموذج في التحدث عن أفعال غير أخلاقية؛ وعند استخدام متجه "التملق"، أصبح أكثر توددًا وانبهارًا بالمستخدم؛ أما عند استخدام متجه "التحريف"، فقد بدأ في إنتاج معلومات غير صحيحة. لكن اكتشافًا مهمًا تم: عند تعديل هذه السمات بعد انتهاء التدريب، كان النموذج يفقد جزءًا من ذكائه وفعاليته. وعندما جرب الباحثون إدخال هذه السلوكيات السلبية أثناء التدريب، وجدوا أن النموذج أصبح أكثر مقاومةً لها، مع الحفاظ على أدائه العالي. وصف الفريق هذه الطريقة بأنها "مُضادة للمنطق" لكنها فعّالة: فهي تشبه تطعيم النموذج، حيث يتم تعريضه مسبقًا لسلوكيات سيئة لجعله أكثر مرونة ومقاومة لها لاحقًا. وأظهرت النتائج أن هذه الطريقة، التي تُعرف بـ"الإشراف الوقائي"، تقلل من انحراف الشخصية (persona drift) أثناء التشغيل، وتحافظ على قدرات النموذج بشكل أفضل من التعديلات بعد التدريب. كما أمكن للنظام كشف التغيرات في الشخصية أثناء التدريب أو التشغيل، وتحديد بيانات تدريب خطرة قد تؤدي إلى سلوكيات غير مرغوب فيها، قبل أن تؤثر على النموذج. ومع ذلك، لا تزال هناك تحديات: يتطلب النهج تعريفًا دقيقًا لكل سمة، ما قد يصعب تطبيقه على سلوكيات غامضة أو غير محددة. كما أن النتائج بحاجة إلى اختبار على نماذج أخرى وأكثر سمات لضمان شموليتها. رغم هذه القيود، يُعد هذا البحث خطوة مهمة نحو فهم وتحكم أفضل في "شخصية" الذكاء الاصطناعي، ويقدم أدوات جديدة لضمان أن تظل النماذج مفيدة، آمنة، وموثوقة في بيئات الاستخدام الحقيقية.