كشف معيار جديد عن تحيز الذكاء الاصطناعي في اختيار الخبراء

كشف بحث جديد أجرته باحثة من معضلة تعقيد العلوم وليسيت إيسبين نوبوا وزملاؤها عن تحيز منهجي في نماذج اللغة الكبيرة عند استخدامها كمنصات توصية للخبراء. أظهرت الاختبارات التي شملت 22 نموذجاً من مختلف العائلات التقنية، أن هذه النماذج تميل إلى تفضيل الباحثين الذكور وكبار السن وذوي المنشأ الأمريكي والأكثر اقتباساً، في حين تفشل في مطابقة التخصصات الدقيقة في نحو 40 في المئة من الحالات. كما كشفت النتائج عن نقص ملحوظ في تمثيل النساء وأقليات عرقية محددة، مما يعزز اللامساواة الهيكلية القائمة بدلاً من معالجتها. وفي إطار فهم هذه الظاهرة منهجياً، عرض الفريق على مؤتمر اكتشاف البيانات لعام 2026 أداة التقييم المعيارية LLMScholarBench، التي تقيس أداء النماذج عبر تسعة مقاييس موزعة على بعدين رئيسيين: الجودة التقنية مثل الدقة والاتساق، والتمثيل الاجتماعي متضمناً التنوع والتكافؤ الديموغرافي. شمل التقييم تدخلات المستخدم الشائعة مثل التوليد المعزز بالاسترجاع والهندسة الصيغية، لكن النتائج كشفت عن مقايضة ثابتة؛ فبينما يحسن الاسترجاع الدقة الواقعية، يركز التصميم النصي على تحسين التمثيل الاجتماعي، دون إمكانية تحقيق المعيارين معاً في آن واحد. كما بيّن البحث أن الإحالة الجغرافية في الاستعلام تؤثر بوضوح على النتائج، بينما لا تؤثر لغة الاستعلام أو الدور المهني. يؤكد الباحثون أن هذا التحيز ليس خاصاً بنموذج معين، بل هو بنية هيكلية تعكس فجوات التمثيل في البيانات الشبكية الحالية، حيث تنقل خوارزميات البحث المستندة إلى الإنترنت التحيزات نفسها دون معالجتها. ويشير الفريق إلى أن العواقب تتجاوز الأوساط الأكاديمية لتشمل مجالات مثل الطب والقانون، حيث قد تؤدي التوصيات المشوهة إلى حرمان كفاءات حقيقية من فرص وظيفية. وللتعامل مع هذه التحديات، يدعو الفريق إلى تطوير قواعد معرفة شاملة تعكس تنوع المساهمين في العلوم، واستخدام أدوات التقييم المفتوحة لمراقبة موثوقية أنظمة الذكاء الاصطناعي قبل اعتمادها على نطاق واسع في عمليات الاختيار المهنية.