يحذر خبراء من جامعة فليندرز الأسترالية من أن سرعة تطور الذكاء الاصطناعي في القطاع الطبي تتجاوز وتيرة عمليات التحقق من السلامة، مما يستدعي ضرورة تقييمه بدقة قبل اعتماده على نطاق واسع. في تعليق نشر في مجلة "ساينس" بعنوان "الذكاء الاصطناعي يستطيع التفكير مثل الطبيب؛ ماذا بعد؟"، أشد الباحثون على أن النتائج المبهرة في الدراسات المتحكم بها لا تعني بالضرورة جاهزية هذه الأنظمة للاستخدام الروتيني في المستشفيات والعيادات. ويشير المقال إلى أن الأنظمة الحديثة القائمة على الاستدلال قادرة على المرور بمراحل التشخيص خطوة بخطوة، وقد تتطابق أحيانًا مع أداء الأطباء المخضرمين أو تتفوق عليهم في مهام تعتمد على النص. ويصف إريك كورنيليس، الباحث المشارك، هذا التغير بأنه انتقال من أدوات الإجابة البسيطة إلى خوارزميات قادرة على محاكاة التفكير السريري البشري. ومع ذلك، يؤكد الفريق أن الممارسة الطبية الحقيقية تتجاوز مجرد معالجة النصوص أو الاختبارات النظرية، فهي تشمل الفحص البدني، والاستماع للمرضى، وفهم السياق الطبي والاجتماعي، وتحمل المسؤولية عن النتائج، وهي عناصر لا يمكن للذكاء الاصطناعي الحالي توفيرها بمفرده بشكل آمن. ويشدد كورنيليس على أن القرارات الطبية معقدة وعالية المخاطر وإنسانية بعمق، ودقة الإجابة على النصوص وحدها لا تجعل النظام آمنًا للمرضى. كما توضح أستاذة مساعدة أوش هوبكنز، المؤلفة الكبرى للورقة، أن الرعاية الصحية الحديثة تعتمد على الحكم والتقدير والمساءلة والرقابة الأخلاقية. ورغم أن الأنظمة أثبتت قدرتها على حل المشكلات السريرية، إلا أن هناك حاجة ملحة لتطوير أطر قانونية ومهنية وأخلاقية لتحديد المسؤولية عن قراراتها، وضرورة دمجها بشكل مقصود ومدروس في الرعاية السريرية. تسلط الورقة الضوء على المخاطر المعروفة المرتبطة بالأنظمة غير المدروسة جيدًا، مثل التحيز، وعدم المساواة في تقديم الرعاية، والإضرار بالمرضى عن غير قصد. وتذكر أن التاريخ يظهر أن الخوارزميات قد تؤدي إلى نتائج أسوأ إذا نُفذت دون ضوابط كافية، خاصة عند تدريبها على بيانات غير مكتملة أو غير ممثلة. وبناءً على ذلك، يجادل الباحثون بأن الحماس المتزايد للذكاء الاصطناعي الطبي يجب أن يقابله حوكمة قوية ومعايير تقييم أوضح. ويؤكد كورنيليس أن الأطباء لا يُسمح لهم بممارسة المهنة دون إشراف وتقييم، ويجب أن تخضع الأنظمة التقنية لمعايير مماثلة، وأن يكون التحسين الفعلي في نتائج المرضى، وليس فقط درجات الاختبارات أو عروض العرض، هو المقياس الحقيقي للنجاح. وتختتم هوبكنز حديثها بتأكيد أن المرضى يستحقون تكنولوجيا تحسن الرعاية في العالم الحقيقي، وأن التصميم الدقيق والرقابة القوية والتقييم الشاق يمكن أن يحول الذكاء الاصطناعي إلى أداة قوية لتقديم رعاية أكثر أمانًا وعدالة وفعالية على مستوى الأنظمة الصحية العالمية.