Suite à une enquête du Guardian révélant que les résumés d’IA de Google fournissaient des informations trompeuses pour certaines requêtes liées à la santé, la société aurait supprimé les résumés d’IA pour plusieurs de ces requêtes. Par exemple, lorsqu’un utilisateur demandait « quelle est la plage normale des analyses sanguines du foie », le système affichait des valeurs standardisées ne tenant pas compte de facteurs comme l’âge, le sexe, l’origine ethnique ou la nationalité, ce qui pouvait induire en erreur et faire croire à un résultat normal alors qu’il n’en était rien. Selon le Guardian, les résumés d’IA ont été retirés pour les requêtes « quelle est la plage normale des analyses sanguines du foie » et « quelle est la plage normale des tests de fonction hépatique ». Toutefois, des variantes de ces requêtes, comme « plage de référence des tests hépatiques » ou « plage de référence des tests LFT », pouvaient encore déclencher des résumés générés par l’IA. Lors de mes propres tests ce matin, quelques heures après la publication de l’article du Guardian, aucune de ces requêtes ne déclenchait de résumé d’IA, bien que l’option « mode IA » soit toujours disponible. Dans plusieurs cas, le premier résultat affiché était précisément l’article du Guardian sur cette suppression. Un porte-parole de Google a déclaré au Guardian qu’il ne commentait pas les suppressions individuelles dans Search, mais soulignait que l’entreprise travaillait à des améliorations générales. Il a ajouté qu’une équipe interne de cliniciens avait examiné les requêtes signalées par le Guardian et avait constaté que « dans de nombreux cas, les informations fournies n’étaient pas inexactes et étaient également appuyées par des sites de qualité élevée ». TechCrunch a contacté Google pour obtenir des précisions supplémentaires. L’an dernier, la société avait annoncé de nouvelles fonctionnalités destinées à améliorer Google Search pour les usages liés à la santé, notamment des résumés améliorés et des modèles d’IA spécifiquement conçus pour le domaine médical. Vanessa Hebditch, directrice des communications et de la politique au British Liver Trust, a salué la suppression comme « une excellente nouvelle », mais a exprimé une préoccupation plus large : « Notre vrai souci, c’est que Google se contente de désactiver un seul résultat, et qu’il peut simplement éteindre les résumés d’IA pour cette requête, sans aborder le problème plus profond de l’utilisation des résumés d’IA dans le domaine de la santé. »