OpenAI hat am Mittwoch ChatGPT Health vorgestellt, eine neue Funktion, die speziell für gesundheitsbezogene Gespräche mit dem KI-Chatbot entwickelt wurde. Laut OpenAI werden wöchentlich über 230 Millionen Nutzerinnen auf der Plattform mit Fragen rund um Gesundheit und Wohlbefinden konfrontiert. ChatGPT Health soll diese Gespräche in einem separaten Bereich zentralisieren, um sicherzustellen, dass sensible Gesundheitsinformationen nicht in allgemeine Chatverläufe mit dem Standard-ChatGPT gelangen. Wenn Nutzerinnen außerhalb des Health-Bereichs medizinische Themen ansprechen, wird der KI-Chatbot sie gezielt auffordern, in den spezialisierten Bereich zu wechseln. Innerhalb von ChatGPT Health kann der KI-Modell Kontext aus früheren Interaktionen nutzen – etwa, wenn ein Nutzer zuvor einen Marathontrainingsplan besprochen hat, kann ChatGPT Health dies bei Gesprächen über Fitnessziele berücksichtigen. Zudem wird die Funktion mit Daten aus Wellness-Apps wie Apple Health, Fitbit und MyFitnessPal integriert, um personalisierte Empfehlungen zu ermöglichen. Wichtig: OpenAI betont, dass Gesundheitsgespräche nicht zur Weiterbildung der KI-Modelle verwendet werden. Fidji Simo, CEO der Anwendungen bei OpenAI, begründet die Einführung mit bestehenden Problemen im Gesundheitswesen: hohe Kosten, mangelnden Zugang zu medizinischen Dienstleistungen, überlastete Ärzt*innen und fehlende Kontinuität in der Versorgung. ChatGPT Health solle als Hilfsmittel dienen, um den Zugang zu Gesundheitsinformationen zu erleichtern. Dennoch bleiben erhebliche Risiken bestehen. Großsprachmodelle wie ChatGPT generieren Antworten basierend auf Wahrscheinlichkeiten, nicht auf medizinischer Richtigkeit. Sie sind anfällig für „Halluzinationen“ – also erfundene oder falsche Informationen, die überzeugend klingen können. OpenAI macht in seinen Nutzungsbedingungen deutlich, dass ChatGPT nicht zur Diagnose oder Behandlung von Krankheiten verwendet werden darf. Die Funktion ist daher kein Ersatz für professionelle medizinische Beratung. Die Einführung von ChatGPT Health markiert einen wichtigen Schritt in der Integration von KI in den Gesundheitsbereich – allerdings mit deutlichen Grenzen. Experten warnen vor einer Überbewertung der KI-Kompetenz und betonen die Notwendigkeit klarer Grenzziehungen zwischen Unterstützung und medizinischer Entscheidungsfindung. Während die Funktion Potenzial hat, Informationsdefizite zu verringern und Nutzer*innen bei der Selbstmanagement von Gesundheitszielen zu unterstützen, bleibt die Verantwortung für medizinische Entscheidungen weiterhin beim Menschen. Die Rolle von KI bleibt damit ein unterstützendes, niemals ein ersetztendes Instrument.