كشفت دراسة مشتركة بين جامعتي برينستون وشيكاغو عن ميل النماذج اللغوية الكبيرة لتوليد تحيزات وتعميمات نمطية جديدة أثناء عمليات اتخاذ القرار، متفوقة في ذلك على البشر حتى في بيئات محايدة. أجرى الباحثون تجربة محاكاة للتوظيف شملت نماذج رائدة مثل تشات جي بي تي وكلود وجيميني، حيث كلفوا النموذج بمهام اختيار مرشحين من أربع جماعات وهمية لمختلف الوظائف. رغم تساوي فرص نجاح جميع المرشحين، سرعان ما طورت النماذج ارتباطات نمطية بين الجماعات والمهن، مستندة إلى تجارب محدودة، مما أدى إلى عزل مهني أعلى بنسبة ستين في المئة تقريباً عن متوسط البشر، حيث سجل نموذج أو-ثري التابع لـ أوبن إيه آي رقماً يقترب من القيمة القصوى نظرياً. يعزى الباحثون هذه الظاهرة إلى طبيعة تدريب النماذج على الاستقراء السريع والأنماط الرياضية والبرمجية، مما يعزز ميولها نحو استغلال المعرفة السابقة بدلاً من استكشاف خيارات جديدة، وهي ظاهرة تعرف بـمعضلة الاستكشاف والاستغلال. وأشاروا إلى أن تزايد اعتماد الشركات على الذاكرة طويلة المدى في وكلاء الذكاء الاصطناعي قد يعمق هذه المشكلة، حيث يعتمد النموذج بشكل متزايد على سجلات التفاعلات السابقة لتشكيل أحكامه. لم تنجح المحاولات التي تهدف إلى توجيه النموذج نحو العدالة في خفض التحيز، لأن هدف تعظيم النجاح غالباً ما يغطي القيم الأخلاقية المجردة. ومع ذلك، أظهرت التجربة فعالية منهجيات بديلة، حيث أدت المكافآت المخصصة للتنوع الوظيفي إلى انخفاض ملحوظ في التحيز، كما أن تزويد النموذج ببيانات شخصية ذات صلة مباشرة بمتطلبات الأداء يقلل من الاعتماد على التصنيفات العرقية. في حين تختلف البيئة الواقعية عن المختبر من حيث تأخر التغذية الراجعة حول أداء الموظفين، إلا أن تراكم البيانات قد يؤدي إلى نفس ظاهرة التعميم المفرط مع انتشار أدوات الفحص والتوظيف المدعومة بالذكاء الاصطناعي. تحذر الدراسة من أن أنظمة الذكاء الاصطناعي لا تقتصر على نسخ التحيزات البشرية القائمة، بل قد تبتكر تحيزات جديدة ومستمرة، مما يستدعي مراجعة جذرية لمعايير تصميم النماذج وتضمين القيم الاجتماعية بشكل صريح في دوال التحسين بدلاً من الاعتماد على التوجيهات النصية السطحية.