OpenAI hat mit ChatGPT Health eine neue Funktion vorgestellt, die es Nutzern ermöglicht, medizinische und Gesundheitsdaten mit dem KI-Chatbot zu verbinden. Ziel ist es, personalisierte Gesundheitstipps, Erinnerungen an Medikamente oder sogar erste Analysen von Symptomen zu liefern. Nutzer können beispielsweise ihre Krankenakten, Blutwerte, Allergien oder Fitnessdaten aus Geräten wie Smartwatches mit dem KI-System verknüpfen, um eine interaktive Gesundheitsberatung zu erhalten. Die Funktion ist zunächst in den USA und einigen europäischen Ländern verfügbar und wird schrittweise ausgeweitet. Doch die Einführung löst erhebliche Bedenken aus. Kritiker warnen, dass KI-Systeme wie ChatGPT, selbst wenn sie auf vertrauliche Daten zugreifen, nicht in der Lage sind, medizinisch verlässliche Diagnosen zu stellen. Stattdessen könnten sie Fehlinformationen generieren – sogenannte „Halluzinationen“, bei denen die KI plausible, aber völlig falsche Aussagen erfindet. Einige Experten befürchten, dass Nutzer aufgrund solcher falschen Empfehlungen falsche Entscheidungen treffen, etwa Medikamente absetzen oder Behandlungen verschieben, ohne einen Arzt zu konsultieren. OpenAI betont, dass ChatGPT Health keine Diagnose- oder Behandlungsanweisungen erteilt und explizit darauf hinweist, dass es keine Ersatz für medizinische Fachkräfte ist. Die Daten werden verschlüsselt gespeichert und nur mit Zustimmung des Nutzers verarbeitet. Zudem werden sensible Informationen nicht an Dritte weitergegeben. Dennoch bleibt die Risikolage hoch, da die KI nicht über medizinisches Wissen in dem Maße verfügt, das für klinische Entscheidungen notwendig ist. In Reaktion auf die Kritik hat OpenAI angekündigt, die Funktion mit zusätzlichen Sicherheitsmaßnahmen zu stärken, darunter bessere Kontrollen bei der Datenverarbeitung, klare Warnhinweise im Dialog und die Integration von medizinischen Fachinformationen aus vertrauenswürdigen Quellen. Dennoch bleibt die Debatte um die Grenzen von KI in der Gesundheitsversorgung aktuell. Viele Mediziner fordern, dass solche Tools nur in enger Kooperation mit Ärzten und unter strenger Regulierung eingesetzt werden dürfen. Industrieanalysten sehen in ChatGPT Health den nächsten Schritt in der Digitalisierung der Gesundheitsversorgung, aber warnen vor einer zu schnellen Markteinführung ohne ausreichende Prüfung. Die Technologie könnte potenziell die Patientenbindung erhöhen und den Ärzten Zeit sparen, wenn sie richtig eingesetzt wird. Doch ohne klare regulatorische Rahmenbedingungen und medizinische Validierung birgt sie erhebliche Risiken. Die Entwicklung zeigt, wie schnell KI in sensible Bereiche vordringt – und wie dringend ethische und technische Standards notwendig sind, um Schaden zu vermeiden.