تواجه أنظمة الذكاء الاصطناعي المستخدمة في التشخيص الطبي، مثل تصنيف الآفات الجلدية، تحدياً خطيراً يتمثل في التحيز تجاه أنواع معينة من البشرة، مما قد يؤدي إلى فشلها في تشخيص الحالات الخطرة بدقة. يمثل هذا التحيز مشكلة أمان جوهرية ناتجة ليس فقط عن بيانات التدريب، بل أيضاً عن هيكلية النموذج نفسه.为解决 هذه المشكلة، قدم باحثون من معهد ماساتشوستس للتكنولوجيا، ومعهد ووستر للتكنولوجيا، وشركة غوغل، منهجاً جديداً يسمى "إزالة التحيز الدوار المرجح" أو اختصاراً WRING. تمت قبول ورقة البحث هذه للمؤتمر الدولي 2026 لتمثيلات التعلم. تعتمد النماذج اللغوية البصرية (VLMs) على فهم وتفسير وسائط بيانات متعددة مثل الصور والنص في وقت واحد، لكنها كانت تعاني سابقاً من "مفارقة لعبة الضرب" أو Whac-A-Mole dilemma. كان الحل المتبع سابقاً، المعروف بـ "إزالة التحيز بالتشويه"، يقوم بإزالة المعلومات المتحيزة عن طريق إسقاطها من فضاء التمثيل، لكن هذا الإجراء كان يؤدي إلى تشويه جميع العلاقات الأخرى التي تعلمها النموذج، مما قد يعزز تحيزات غير مرغوبة في جوانب أخرى من النظام. يقترح منهج WRING حلاً مختلفاً يقوم بإعادة تدوير إحداثيات معينة في فضاء النموذج عالي الأبعاد التي يُعتقد أنها مسؤولة عن التحيز، وتحويلها بزاوية مختلفة.此举 تجعل النموذج غير قادر على التمييز بين المجموعات المختلفة ضمن مفهوم معين، مع الحفاظ على العلاقات الأخرى دون تغيير. هذا الأسلوب، مثل سابقه، هو نهج ما بعد المعالجة، مما يعني أنه يمكن تطبيقه "عبر الإنترنت" على نماذج تم تدريبها مسبقاً دون الحاجة إلى إعادة تدريبها من الصفر، وهو ما يوفر الموارد والوقت الكبيرين اللذين يتم استثمارهما في تدريب النماذج الضخمة. أظهرت نتائج البحث أن WRING قلل بشكل كبير من التحيز للمفهوم المستهدف دون زيادة التحيز في المجالات الأخرى. ومع ذلك، يقتصر التطبيق الحالي بشكل أساسي على نماذج CLIP، وهي نوع من النماذج اللغوية البصرية التي تربط الصور باللغة للبحث أو التصنيف. يشير الباحثون إلى أن الخطوة المنطقية التالية هي توسيع هذه التقنية لتشمل نماذج اللغة التوليدية، وهي تلك التي تعمل بنمط ChatGPT. أشار والتر جيrotch، المؤلف الأول للورقة والأستاذ المساعد حالياً في معهد ووستر للتكنولوجيا، إلى أن الطريقة فعالة جداً ولا تتدخل بشكل كبير في عملية التدريب الأساسية. تم دعم هذه الأبحاث من قبل عدة مؤسسات مرموقة، بما في ذلك جوائز من المؤسسة الوطنية للعلوم، ومؤسسة ألفا 2050، وجائزة سولون، ومؤسسة غوردون وبتي مور، بالإضافة إلى جائزة الابتكار في الحوسبة من معهد ماساتشوستس للتكنولوجيا وشركة غوغل.