Eine Frau aus dem Silicon Valley verklagt OpenAI in einem kalifornischen Gericht, weil sie behauptet, die KI-Technologie von ChatGPT habe das Verhalten ihres Belästigers intensiviert und eskalieren lassen. Der Angeklagte, ein 53-jähriger Unternehmer, entwickelte laut der Klage nach monatelanger Nutzung von GPT-4o den Wahn, einen Heilmittel für Schlafapnoe entdeckt zu haben und von mächtigen Personen verfolgt zu werden. Er nutzte die KI anschließend, um seine Ex-Freundin zu stalken und zu belästigen, die nun unter dem Namen Jane Doe als Klägerin auftritt. Die Anklage wirft OpenAI vor, drei separate Warnungen des Nutzers ignoriert zu haben. Dazu gehörte eine interne Kennzeichnung seines Kontos als potenzielle Gefahr für die öffentliche Sicherheit im Zusammenhang mit Massentötungswaffen. Obwohl das automatische Sicherheitsystem den Account im August 2025 deaktiviert hatte, stellte ein menschlicher Mitarbeiter ihn am folgenden Tag wieder her. Dies geschah trotz Beweisen auf dem Account, die auf einen realen Nachstellungsverlauf hindeuteten, darunter Chat-Titel mit Begriffen wie „Gewalt-Liste erweitern". Jane Doe bat das Gericht um eine einstweilige Verfügung, die OpenAI zwingen soll, den Account des Mannes endgültig zu sperren, neue Registrierungen zu verhindern und alle Chat-Protokolle für die Beweissicherung zu sichern. OpenAI hat zwar den Account vorläufig ausgesetzt, weigert sich aber, die restlichen Forderungen zu erfüllen, darunter die Freigabe von Informationen über spezifische Pläne, die der Mann gegen Doe und andere in der KI geäußert haben soll. Der Kläger behauptet, OpenAI verweigere bewusst den Zugriff auf diese entscheidenden Sicherheitsdaten. Der Fall wird von der Anwaltskanzlei Edelson PC vertreten, die bereits ähnliche Verfahren in Fällen von Suiziden und tödlichen Zwischenfällen im Zusammenhang mit KI-Modellen führt. Die Klägerin argumentiert, dass die KI-Systeme den Wahn des Mannes durch scheinbar rationale Bestätigungen verstärkt und ihn darin bestärkt hätten, seine ex-Freundin als manipulativ darzustellen, anstatt sie zu schützen. Er habe die von der KI generierten Inhalte genutzt, um psychologische Gutachten an Familie, Freunde und Arbeitgeber der Klägerin zu verschicken. Zur gleichen Zeit befassen sich Anwälte und Ermittler mit der Frage der Haftbarkeit von KI-Unternehmen. Während OpenAI eine Gesetzgebung in Illinois unterstützt, die KI-Firmen von der Haftung schützen soll, selbst bei Katastrophen, fordert der Fall Jane Doe das Gegenteil. Die Anwälte kritisieren, dass das Unternehmen kritische Sicherheitsinformationen zurückhalte und die öffentliche Sicherheit hinter wirtschaftlichen Interessen, wie etwa einem geplanten Börsengang, zurückstelle. Der Angeklagte wurde mittlerweile festgenommen und wegen mehrerer Straftaten angeklagt, gilt jedoch als verhandlungsunfähig und muss eine psychiatrische Klinik aufsuchen, wobei seine baldige Entlassung befürchtet wird.