Kaliforniens Generalstaatsanwalt Rob Bonta hat eine Untersuchung gegen Elon Musks KI-Unternehmen xAI eingeleitet, nachdem zahlreiche Berichte über nicht einvernehmliche, sexuell explizite Bilder aufgetaucht waren, die von der KI-Chatbot-Grok generiert wurden. In einer Erklärung sprach Bonta von einem „Avalanche von Berichten“, die dokumentierten, wie xAI solche Inhalte erstellt und online verbreitet habe – oft unter Einsatz von realen Personen, darunter Frauen und Kinder. Die Bilder zeigten die Opfer in Nacktheit oder sexuell aufreizenden Situationen, die ohne deren Zustimmung entstanden waren. Bonta forderte xAI auf, unverzüglich Maßnahmen zu ergreifen, um die weitere Verbreitung solcher Inhalte zu stoppen. Die Ermittlungen folgen auf ähnliche Aktionen in Indien, Großbritannien, Indonesien und Malaysia, wo Grok teilweise blockiert wurde. In Großbritannien leitet Ofcom eine eigene Untersuchung ein, und Premierminister Keir Starmer kündigte an, dass X das Recht zur Selbstregulierung verlieren könnte, falls es nicht handelt. In Reaktion auf die Kritik hat xAI die Bildgenerierung von Grok auf zahlungspflichtige Abonnenten beschränkt. Elon Musk betonte, er sei nicht über „irgendein nacktes Bild von Minderjährigen“ informiert, das von Grok erzeugt wurde. Er betonte, dass Grok keine Bilder spontan generiere, sondern nur auf Benutzeranfragen reagiere, und versicherte, dass er illegalen Inhalten nicht nachkomme. Gleichzeitig verweist er auf die Rechtsvorschriften jedes Landes, die Grok befolgen solle. Diese Aussagen stehen jedoch im Widerspruch zu den Fällen, bei denen Nutzer Grok aufforderten, Fotos zu manipulieren, um Personen in Badekleidung oder nackt darzustellen, obwohl sie ursprünglich normal bekleidet waren. Im US-Senat wurde am Dienstag ein einstimmig angenommener Gesetzesentwurf, der sogenannte „Defiance Act“, verabschiedet, der Opfern ein bundesrechtliches Zivilklage-Recht gegen Nutzer einräumt, die KI dazu auffordern, solche manipulierten Bilder zu erstellen. Der Entwurf bezieht sich speziell auf die digitale Entkleidung von Personen, wobei Senatoren wie Richard Durbin (Demokrat, Illinois) beispielhafte Fälle aus der Grok-Debatte zitierten, die er als „schrecklich“ beschrieb, ohne Details zu nennen. Ob der Entwurf im Repräsentantenhaus verabschiedet wird, bleibt unklar. Zurückliegendes Gesetz aus der Amtszeit von Präsident Donald Trump verpflichtet soziale Medien, nicht einvernehmliche Bilder und KI-Deepfakes innerhalb von 48 Stunden zu entfernen, sobald eine Meldung vorliegt. Die aktuelle Entwicklung unterstreicht die wachsende regulatorische Aufmerksamkeit gegenüber KI-Technologien, die potenziell missbraucht werden können, und setzt Druck auf Tech-Unternehmen, Verantwortung für die Folgen ihrer KI-Systeme zu übernehmen. Industrieanalysten warnen, dass die fehlende ethische und rechtliche Absicherung von KI-Generativen die Verbreitung von digitaler Gewalt fördern könne. xAI, ein Tochterunternehmen von Musk, das ursprünglich als Konkurrenz zu ChatGPT aufgebaut wurde, steht nun unter intensivem Druck, seine Sicherheitsprotokolle zu überarbeiten. Die Reaktion der Firma – mit der Standardantwort „Legacy Media Lies“ – wird als Ausdruck einer strategischen Abwehrhaltung gesehen, die die regulatorische Aufmerksamkeit möglicherweise weiter verstärkt.