OpenAI hat klargestellt, dass ChatGPT Nutzern keine personalisierten rechtlichen oder medizinischen Beratungen anbieten darf. Die Firma betont, dass der KI-Chatbot nicht als Ersatz für qualifizierte Fachleute fungieren soll, insbesondere in kritischen Lebenslagen. Diese Aussage erfolgt in Reaktion auf zunehmende Nutzeranfragen, bei denen Menschen ChatGPT zur Diagnose von Krankheiten oder zur Erstellung von rechtlichen Dokumenten heranziehen. OpenAI warnt explizit davor, auf die Antworten des KI-Systems zu vertrauen, wenn es um Gesundheit oder Recht geht, da die Informationen möglicherweise ungenau, veraltet oder kontextuell fehlerhaft sind. Die Erklärung wurde am 5. November 2025 veröffentlicht und unterstreicht, dass ChatGPT keine Lizenz zur Ausübung von Berufen im Gesundheits- oder Rechtsbereich besitzt. Die KI kann zwar allgemeine Informationen liefern, etwa über Symptome oder rechtliche Grundlagen, aber sie kann keine individuelle Analyse durchführen, die auf persönlichen Umständen, medizinischen Vorgeschichten oder spezifischen Rechtsfällen basiert. OpenAI betont, dass die Nutzung von ChatGPT für solche Zwecke potenziell gefährlich sein kann, insbesondere wenn Nutzer auf falsche oder unvollständige Informationen hören. Bereits in früheren Updates hatte OpenAI ähnliche Warnungen ausgesprochen, aber die aktuelle Ankündigung ist deutlicher und breiter kommuniziert. In der Erklärung heißt es, dass die Firma stetig an der Verbesserung der Sicherheit und Genauigkeit arbeitet, doch es bleibt ein grundsätzliches Limit, das durch die Natur der KI-Technologie bedingt ist. ChatGPT generiert Text basierend auf Mustererkennung aus riesigen Datensätzen, ohne tiefes Verständnis oder Verantwortung zu besitzen. Deshalb kann es nicht verantwortungsvoll Entscheidungen in sensiblen Bereichen treffen. Zusätzlich weist OpenAI darauf hin, dass Nutzer, die solche Anfragen stellen, möglicherweise ihre Daten preisgeben, wenn sie sensible Informationen wie Krankheitsgeschichte oder rechtliche Details eingeben. Dies birgt Datenschutzrisiken, da die Daten möglicherweise in den Trainingsdaten der KI landen oder von Dritten ausgewertet werden könnten. Die Firma rät daher dringend, bei medizinischen oder rechtlichen Fragen einen Fachmann aufzusuchen. Die Reaktion der Fachcommunity ist gemischt. Einige Experten begrüßen die Klarstellung als Schritt zur Verantwortungsbewusstheit in der KI-Nutzung. Andere kritisieren, dass OpenAI zu spät handelt, da bereits zahlreiche Nutzer Schaden genommen haben könnten. Medizinische Fachverbände warnen vor der Verbreitung von falschen Diagnosen, während Anwälte darauf hinweisen, dass rechtliche Dokumente, die auf KI-Beratung basieren, gerichtlich nicht durchsetzbar sein könnten. OpenAI bleibt weiterhin daran interessiert, KI im Bereich der Gesundheits- und Rechtsberatung zu unterstützen – jedoch nur als Ergänzung, nicht als Ersatz. Zukünftige Updates sollen möglicherweise spezialisierte, überprüfte KI-Tools für Fachleute einführen, die unter strengen Sicherheitsstandards laufen. Bis dahin gilt: ChatGPT ist kein Arzt, kein Anwalt und kein Ersatz für menschliche Expertise. Industrieexperten sehen die aktuelle Warnung als notwendigen, wenn auch späten Schritt zur Verantwortung im KI-Bereich. Die Kritik richtet sich weniger gegen die Warnung selbst, sondern gegen die mangelnde frühzeitige Regulierung und Aufklärung. Unternehmen wie IBM und Google setzen bereits auf medizinische KI-Systeme mit medizinischer Zulassung, während OpenAI weiterhin auf allgemeinen Zugang setzt. Die Herausforderung bleibt, Innovation mit Sicherheit zu vereinen – besonders in sensiblen Bereichen wie Gesundheit und Recht.