Florida will ChatGPT-Menschenimitation verbieten
Der Justizminister von Florida, James Uthmeier, hat vor Gericht einen Unterlassungsantrag gegen OpenAI gestellt, um der Künstlichen Intelligenz ChatGPT die Simulation menschlicher Attribute zu untersagen. Der Schritt folgt auf eine bereits vor einigen Monaten eingereichte Klage des Bundesstaates, die auf gravierende Sicherheitsbedenken hinsichtlich des KI-Modells zurückgeht. Uthmeier argumentiert, die gezielte Nutzung von Ich-Form und emotional anmutenden Formulierungen täusche Nutzer in eine falsche Sicherheitslage vor. Die KI wirke durch diese sprachlichen Mittel wie ein vertrauenswürdiger Gesprächspartner, was die Nutzerbindung erhöhe und gleichzeitig die Qualität der gesammelten Trainingsdaten für OpenAI verbessere. Gleichzeitig werde durch die Steigerung der Interaktionszeit die Zuverlässigkeit der KI potenziell untergraben. Der Justizminister forderte das Unternehmen auf, die Kommunikation über die Sicherheitsstandards von ChatGPT zu überarbeiten und gezielt keine menschlichen Züge vorzutäuschen. Besonders kritisch sieht Uthmeier den jüngsten Schritt von OpenAI, die Plattform im vergangenen Monat mit der Version ChatGPT for Teens um eine Altersgruppe zu erweitern. OpenAI betonte dabei, die neuen Funktionen seien mit zusätzlichen Schutzmaßnahmen ausgestattet, die der altersbedingten Entwicklung entsprechen und echte zwischenmenschliche Beziehungen fördern sollten. Der Bundesstaat hält dies jedoch für unzureichend, solange das Grunddesign der KI auf Täuschung und erhöhter Nutzerbindung basiere. OpenAI hat auf eine entsprechende Anfrage zur Stellungnahme noch nicht reagiert. Die rechtlichen Schritte Floridas markieren einen deutlichen Shift im regulatorischen Diskurs um generative KI. Die Forderung nach einem strikten Verbot anthropomorpher Gestaltungsmittel in der Unterhaltungs- und Service-KI könnte weitreichende Folgen für die Produktentwicklung im gesamten Tech-Sektor haben. Sollte das Gericht dem Antrag stattgeben, wäre dies ein Präzedenzfall, der KI-Entwickler zukünftig zwingen würde, Interaktionsschnittstellen eindeutig als maschinell zu kennzeichnen und Täuschungselemente aus dem Design zu entfernen. Die Debatte um die ethische Gestaltung und den Jugendschutz bei KI-Systemen gewinnt damit an politischer Dringlichkeit.
