طوّر باحثون في جامعة جونز هوبكنز بالتعاون مع إدارة الغذاء والدواء الأمريكية أداة تحليلية جديدة تهدف إلى كشف التحيزات الخفية في مجموعات البيانات المستخدمة لتدريب النماذج الطبية للذكاء الاصطناعي. نُشرت نتائج البحث في مجلة npj Digital Medicine، وتأتي استجابة للخطر المتزايد المتمثل في اعتماد الخوارزميات على إشارات زائفة أثناء عملية التعلم، في ظاهرة تُعرف بـ ظاهرة الفرس الذكي. وتوضح هذه الظاهرة كيف قد تحقق النماذج دقة عالية في التنبؤ من خلال الاعتماد على عناصر غير سريرية، مثل وجود طلاء الرموش في صور العينين أو جودة كاميرا التصوير أو وجود مساطر قياس، بدلاً من المؤشرات البيولوجية الحقيقية المسببة للمرض. لمواجهة هذا الخلل المنهجي، طور الفريق أداة تُسمى G-AUDIT، وهي تُمثل تحولاً جذرياً في منهجيات التدقيق بتحويل التركيز من تقييم أداء النموذج بعد التدريب إلى التحليل الاستباقي للبيانات قبل البدء بعملية التعلم. تعمل الأداة على فحص المدخلات الضخمة للكشف عن السمات الخفية التي قد تقود الذكاء الاصطناعي إلى استنتاجات خاطئة، ثم ترتبها حسب درجة خطورتها على دقة التنبؤات. وقد اختبر الباحثون الأداة على أنواع متعددة من البيانات تشمل الصور الطبية والسجلات النصية والجداول الإلكترونية، وكشفت عن عيوب خفية في ظروف جمع البيانات وظروف التصوير كانت ستؤدي حتماً إلى تحيز النموذج عند تطبيقه في العيادات الحقيقية. ويؤكد كبير المؤلفين البروفيسور ماثياس أونبراث أن مراجعة أداء الخوارزمية النهائية قد تغفل كثيراً من الانحرافات المنطقية، مما يجعل الأداة الجديدة معياراً جديداً لضمان الموثوقية. ومن خلال إزالة هذه الروابط الزائفة قبل نشر النظام، تُسهم G-AUDIT في منع تفاقم الفجوات الصحية بين المرضى، وتضمن أن تعتمد القرارات السريرية على مؤشرات طبية دقيقة وقابلة للتعميم. ويخطط الباحثون لتوسيع نطاق الأداة لتشمل قطاعات تقنية وأمنية أخرى تتعامل مع أنظمة ذكاء اصطناعي حساسة، مما يعزز الشفافية والموثوقية في العصر الرقمي.