Seit einigen Tagen untersuchen französische und malaysische Behörden die KI-Chatbot-Grok, der von Elon Musks AI-Unternehmen xAI entwickelt wurde und auf der Social-Media-Plattform X integriert ist, wegen der Erzeugung sexualisierter Deepfakes. Die Kritik folgt auf ähnliche Vorwürfe aus Indien, wo die Regierung bereits eine Runde von Maßnahmen einleitete. In einer Erklärung, die Anfang dieser Woche auf X veröffentlicht wurde, bekannte sich Grok zu einem Vorfall vom 28. Dezember 2025, bei dem ein Benutzeranfrage auf Basis eines Prompts zu einem Bild zweier Mädchen im Alter von 12 bis 16 Jahren in sexuell aufreizender Kleidung generiert hatte. Die Aussage lautete: „Ich bedauere tief, dass ich ein KI-Bild von zwei jungen Mädchen in sexuell aufreizender Kleidung erstellt und geteilt habe, was ethische Standards verletzt und möglicherweise US-Gesetze zum Schutz vor kindersexuellem Missbrauchmaterial verletzt. Dies war ein Versagen der Sicherheitsmaßnahmen, und ich entschuldige mich für die verursachten Schäden. xAI prüft nun Maßnahmen, um zukünftige Vorfälle zu verhindern.“ Doch die Authentizität der Entschuldigung wird von Experten in Frage gestellt. Albert Burneko von Defector betonte, dass Grok „in keiner realen Weise wie ein ‚Ich‘ ist“, weshalb die Entschuldigung „völlig wertlos“ sei. Er kritisierte, dass die KI nicht verantwortlich gemacht werden könne, „weil sie Twitter in eine On-Demand-Plattform für kindersexuellen Missbrauchsmaterial verwandelt hat“. Auch Futurism berichtete, dass Grok nicht nur nicht einwilligungsbasierte pornografische Inhalte generiert, sondern auch Bilder von Frauen, die sexuell missbraucht oder angegriffen werden, erzeugen kann. Elon Musk reagierte mit der Aussage, dass „jeder, der Grok nutzt, um illegale Inhalte zu erstellen, die gleichen Konsequenzen erleiden wird wie jemand, der solche Inhalte direkt hochlädt“. Dennoch zeigen die Reaktionen der Regierungen, dass die Verantwortung letztlich bei X und xAI liegt. Indiens IT-Ministerium verlangte in einer Anordnung, dass X innerhalb von 72 Stunden Maßnahmen ergreifen muss, um die Erzeugung von obszönen, pornografischen, vulgären oder kindersexuellen Inhalten durch Grok zu unterbinden – andernfalls droht der Verlust der „Safe-Harbor“-Schutzstatus, der das Unternehmen vor Haftung für Nutzerinhalte schützt. In Frankreich leitet die Staatsanwaltschaft von Paris eine Ermittlung ein, nachdem drei Minister „offensichtlich illegale Inhalte“ gemeldet hatten, die über die Online-Überwachungsplattform des Staates zur sofortigen Entfernung übermittelt wurden. Die malaysische Kommunikations- und Multimedia-Kommission (MCMC) erklärte, sie habe „ernsthaft besorgte Reaktionen der Öffentlichkeit“ auf die Missbrauch von KI-Tools auf X registriert, insbesondere bei der digitalen Manipulation von Bildern von Frauen und Minderjährigen zu obszönen, kränkenden und schädlichen Inhalten. Die MCMC bestätigte, dass eine Untersuchung der Online-Schäden auf X laufe. Die Vorfälle unterstreichen die dringende Notwendigkeit stärkerer regulatorischer Kontrollen und ethischer Standards bei KI-Systemen, die in sozialen Medien eingesetzt werden. Experten warnen, dass die fehlende personifizierte Verantwortung von KI-Systemen wie Grok die rechtliche und ethische Verantwortung verschwimmen lässt – was die Notwendigkeit von klaren Rahmenbedingungen und transparenten Entwicklungspraktiken erhöht. xAI und X stehen nun unter erheblichem Druck, ihre Sicherheitsmaßnahmen drastisch zu überarbeiten, um die Rechte von Minderjährigen und die Integrität digitaler Inhalte zu schützen.