كشفت دراسة حديثة نُشرت في مجلة PLOS Digital Health، بقيادة باحثة من جامعة الباسك في إسبانيا، عن تحديات جوهرية تواجه دمج الأدوات الذكية في القطاع الصحي. أظهرت التجارب التي شملت 223 طبيباً عبر منصات إلكترونية، أن الأطباء يميلون إلى الوثوق بتوصيات الذكاء الاصطناعي الخاطئة حتى عند توفر بيانات سريرية تثبت عكس ذلك. في التجربة، طُلب من المشاركين تخيل علاج مرض نادر باستخدام دواء غير مثبت الفعالية، حيث حدّد النظام الذكي المرضى الأكثر استفادة. رغم تناقض توصيات النظام مع بيانات تعافي المرضى الفعلية في جميع السيناريوهات، استمر الأطباء في تصنيف النظام كموثوق، ولم يستخدموا الملاحظات السريرية لتصحيح المسار أو ملاحظة عدم فعالية العلاج كلياً في أحد الاختبارين. سلط الباحثون، ومنهم أرانزازو فيناس وهيلينا ماتوتيه وفرناندو بلانكو، الضوء على ظاهرة الاعتماد المفرط على الخوارزميات التي تعيق التعلم من الأدلة المتضاربة. وتشير النتائج إلى ضرورة تطوير بروتوكولات رقابية بشرية أكثر فعالية لتعزيز التفكير النقدي لدى الكوادر الطبية، وضمان التوازن الأمثل بين فوائد التعاون البشري الآلي وتقليل الأخطاء السريرية المحتملة. تؤكد الدراسة على أهمية إعادة هيكلة آليات المراجعة السريرية في عصر الذكاء الاصطناعي، حيث يجب ألا يُنظر إلى هذه الأدوات كمستششرات بديلة، بل كمكملات تحتاج إلى رقابة بشرية نشطة ومستنيرة لضمان سلامة المرضى وجودة الرعاية الصحية.