أوقفت شركة جوجل مؤخرًا عرض ملخصات ذكاء اصطناعي تتعلق بالصحة في نتائج بحثها، بعد اكتشاف عيوب خطيرة في دقتها، وفقًا لبحث داخلي أجرته الشركة. وتم إزالة هذه الميزات بعد أن كشفت نتائج التحقيق عن معلومات خاطئة ومُضللة حول فحوصات وظائف الكبد، ما أثار مخاوف كبيرة بين خبراء الطب والصحة. وأظهرت التحقيقات أن بعض ملخصات الذكاء الاصطناعي، التي تُعرض ضمن ميزة "مُلخصات الذكاء الاصطناعي" (AI Overviews)، أشارت إلى نتائج فحوصات كبدية غير صحيحة، مثل تضخيم مستويات إنزيمات الكبد بشكل مبالغ فيه، أو تفسير نتائج طبية بطرق قد تُربك المرضى أو تُضللهم. ووصف خبراء طبيون هذه الأخطاء بأنها "مقلقة" و"محفوفة بالمخاطر"، خاصة في سياق يُمكن أن يُؤدي إلى قرارات طبية غير صحيحة من قبل المرضى أو حتى من قبل مقدمي الرعاية الصحية. وأشارت مصادر داخل جوجل إلى أن هذه الميزات تم تطويرها لتقديم معلومات طبية موجزة وسهلة الفهم، لكنها فشلت في التحقق من دقة المعلومات أو في التمييز بين التقديرات العامة والنتائج الطبية الحساسة. ورغم أن جوجل تستخدم نماذج ذكاء اصطناعي متقدمة، فإنها واجهت صعوبات في التأكد من صحة البيانات الطبية، خصوصًا عند التعامل مع سياقات حساسة مثل التشخيص أو تفسير النتائج المخبرية. في أعقاب هذه الملاحظات، قررت الشركة تعليق ميزة ملخصات الذكاء الاصطناعي في المجال الصحي، وسط توجيهات داخلية لإجراء مراجعة شاملة للنماذج المستخدمة، وتحسين آليات التحقق من المصداقية. وتعمل جوجل حاليًا على تعزيز التعاون مع خبراء طبيين ومؤسسات صحية لضمان أن أي محتوى يُعرض عبر منصتها يُعتمد على مصادر موثوقة ويخضع لتدقيق دقيق. يأتي هذا التحرك في سياق تزايد الانتقادات الموجهة لشركات التكنولوجيا الكبرى بشأن استخدام الذكاء الاصطناعي في مجالات حساسة مثل الرعاية الصحية. ورغم التقدم الكبير في قدرات الذكاء الاصطناعي، فإن الأخطاء في المعلومات الطبية، حتى لو كانت نادرة، قد تؤدي إلى عواقب خطيرة، مثل التأخير في العلاج أو التسبب في قلق غير مبرر. وأكدت جوجل أن سلامة المستخدمين تأتي في المقام الأول، مشيرة إلى أن هذه الخطوة تُعد جزءًا من جهود مستمرة لتحسين موثوقية محتوى الذكاء الاصطناعي، لا سيما في المجالات التي تمس صحة الناس وحياتهم. وستُعلن الشركة عن تفاصيل إضافية حول التحسينات القادمة، بما في ذلك تطوير آليات تقييم أدق للبيانات الطبية، وزيادة الشفافية حول كيفية توليد المحتوى.