Nach einer Untersuchung des Guardian, die fehlerhafte und potenziell irreführende Informationen in Google AI Overviews bei medizinischen Suchanfragen aufgedeckt hatte, hat Google offenbar die automatisierten Zusammenfassungen für bestimmte Gesundheitsfragen abgeschaltet. Insbesondere betraf dies Fragen wie „was ist der normale Bereich für Leberblutwerte“ oder „was ist der normale Bereich für Leberfunktionswerte“, bei denen die AI Overviews standardisierte Zahlen präsentierten, ohne Faktoren wie Alter, Geschlecht, Nationalität oder ethnische Herkunft zu berücksichtigen. Solche Vereinfachungen könnten Nutzer in die Irre führen, indem sie glauben, ihre Werte seien in Ordnung, obwohl sie möglicherweise kritisch sind. Laut dem Guardian sind die AI Overviews für die genannten Suchbegriffe nun nicht mehr sichtbar. Allerdings weist der Bericht darauf hin, dass abgewandelte Formulierungen wie „LFT-Referenzbereich“ oder „LFT-Test-Referenzbereich“ weiterhin zu künstlich generierten Zusammenfassungen führen können. In einer eigenen Nachprüfung am selben Tag zeigte sich, dass diese alternativen Suchanfragen zwar keine AI Overviews mehr anzeigten, Google jedoch weiterhin die Option bot, die Frage im „AI-Modus“ zu stellen. In mehreren Fällen erschien zudem der Guardian-Artikel über die Änderung als erste Suchergebnis, was auf eine hohe Relevanz des Themas hindeutet. Ein Google-Sprecher erklärte gegenüber dem Guardian, das Unternehmen kommentiere keine einzelnen Änderungen in der Suchfunktion, betonte aber, dass man kontinuierlich an „umfassenden Verbesserungen“ arbeite. Zudem bestätigte Google, dass ein interner Team aus medizinischen Fachleuten die von der Guardian aufgezeigten Anfragen überprüft habe und in vielen Fällen die bereitgestellten Informationen als korrekt und durch hochwertige Quellen belegt erachtet habe. TechCrunch hat Google zur Stellungnahme kontaktiert, erhielt jedoch bisher keine Rückmeldung. Letztes Jahr hatte Google neue Funktionen für Gesundheitsfragen angekündigt, darunter verbesserte Überblicke und spezialisierte KI-Modelle für medizinische Suchanfragen. Vanessa Hebditch, Direktorin für Kommunikation und Politik beim British Liver Trust, begrüßte die Entfernung der Überblicke als „ausgezeichnete Nachricht“, warnte jedoch vor einer oberflächlichen Lösung: „Unser größeres Problem ist, dass Google hier nur einen einzelnen Suchbegriff korrigiert und die AI Overviews einfach ausschaltet, statt das grundlegendere Problem anzugehen – die Nutzung von KI-Überblicken bei Gesundheitsfragen.“ Die Entwicklung zeigt die Spannung zwischen der Verbesserung der Sucherfahrung durch KI und den Risiken, wenn medizinische Informationen vereinfacht oder kontextfrei präsentiert werden. Während Google reagiert, bleibt die Frage offen, wie sicher und verantwortungsvoll KI in sensiblen Bereichen wie Gesundheit langfristig eingesetzt werden kann.