أظهرت دراسة جديدة أجرها باحثون من كلية الطب آيكان في جامعة مونت سيناي تطور أداة ذكاء اصطناعي جديدة تُعرف بـ"AEquity"، تهدف إلى الكشف عن التحيزات الضمنية والصريحة في بيانات الرعاية الصحية، وتصحيحها قبل استخدامها في تدريب النماذج الذكية. النتائج نُشرت في مجلة Journal of Medical Internet Research، وتشكل خطوة مهمة نحو تحسين دقة ونزاهة الأدوات الذكية المستخدمة في الطب. تم اختبار الأداة على أنواع متنوعة من البيانات الصحية، بما في ذلك الصور الطبية مثل أشعة الصدر، والسجلات الطبية، وبيانات الاستبيان الوطني للغذاء والصحة (NHANES)، باستخدام مجموعة متنوعة من نماذج الذكاء الاصطناعي. أظهرت النتائج أن AEquity قادرة على كشف تحيزات معروفة، فضلاً عن تحيزات لم تُلاحظ سابقًا، خاصة تلك المرتبطة بالعرق والجنس والخلفية السكانية. يُعد التحيز في البيانات أحد التحديات الكبرى في تطوير الذكاء الاصطناعي للرعاية الصحية، حيث أن بعض المجموعات السكانية قد تكون ممثلة بشكل غير متناسب في البيانات، أو قد تظهر الأمراض بشكل مختلف لديها، ما يؤدي إلى تشخيصات غير دقيقة أو تقييمات خاطئة للخطر. النماذج التي تُدرّب على بيانات متحيزة قد تُعزز هذه الفجوات، مما يُسهم في تفاقم التفاوتات في الرعاية الصحية. يوضح الدكتور فاريس غولامالي، المؤلف الرئيسي للدراسة، أن الهدف من AEquity هو توفير أداة عملية تُمكّن مطوري الأنظمة الصحية من الكشف عن التحيزات في بياناتهم، ثم اتخاذ إجراءات تصحيحية. وأضاف أن الأداة تهدف إلى ضمان أن تعمل الأنظمة الذكية بشكل فعّال لجميع المرضى، وليس فقط للجماعات الأكثر تمثيلاً في البيانات. تتميز AEquity بمرونتها العالية، حيث يمكن تطبيقها على نماذج ذكاء اصطناعي بسيطة ومتقدمة، بما في ذلك النماذج الكبيرة التي تُستخدم في نماذج اللغة الكبيرة. كما يمكن استخدامها على بيانات صغيرة أو معقدة، وتقيّم كلًا من المدخلات (مثل الصور الطبية أو النتائج المختبرية) والنتائج (مثل التشخيصات أو تقييمات المخاطر). يُنظر إلى الأداة على أنها أداة قيمة لفريق البحث، ومطوري البرمجيات، والجهات الرقابية، سواء في مراحل تطوير الخوارزميات، أو أثناء مراجعة ما قبل النشر، أو كجزء من جهود أوسع لتعزيز العدالة في الذكاء الاصطناعي الصحي. يؤكد الدكتور جيريتش نادكارني، المؤلف المشارك الرئيسي، أن هذه الأدوات تمثل خطوة مهمة نحو بناء أنظمة ذكاء اصطناعي أكثر عدالة، لكنها ليست الحل الكامل. ويؤكد أن التغيير الحقيقي يتطلب تحسينًا في طريقة جمع البيانات وتحليلها وتطبيقها في الرعاية الصحية، مشيرًا إلى أن "الأساس يكمن في البيانات نفسها". وأضاف الدكتور ديفيد رايتش، المدير الطبي الرئيسي في نظام مونت سيناي الصحي، أن هذه الدراسة تمثل تطورًا جوهريًا في فهم الذكاء الاصطناعي في الرعاية الصحية، ليس كأداة لاتخاذ القرار فحسب، بل كمحرك لتحسين الصحة في جميع المجتمعات. ويُبرز أن الكشف عن التحيزات وتصحيحها على مستوى البيانات يعالج المشكلة من جذورها، مما يعزز الثقة المجتمعية ويضمن أن تُحسّن الابتكارات الناتجة النتائج الصحية لجميع المرضى، وليس فقط للفئات الأكثر تمثيلاً.