Die irische Datenschutzbehörde (Irish Data Protection Commission, DPC) hat eine Untersuchung gegen X, die Plattform von Elon Musk, eingeleitet, da Verdachtsmomente auf die Erstellung und Verbreitung nicht einvernehmlicher, sexueller KI-generierter Bilder von EU-Bürgern vorliegen. Dabei wurden auch Bilder von Kindern identifiziert. Die DPC, die für die Durchsetzung der Datenschutz-Grundverordnung (DSGVO) in Irland zuständig ist, gab an, die Untersuchung am Montag eingeleitet und X bereits informiert zu haben. Die Ermittlungen richten sich insbesondere auf die Nutzung der KI-Chatbot-Funktion Grok, die von Musks KI-Unternehmen xAI entwickelt wurde und mittlerweile Teil von SpaceX ist. Die Kontroverse um Grok begann Anfang Januar, als Berichte auftauchten, dass Nutzer des Chatbots sexuell gezeichnete Bilder realer Personen – einschließlich Minderjähriger – generierten. Diese Vorfälle lösten weltweite Sorgen aus: Länder wie Indonesien, Malaysia und die Philippinen sperren zeitweise den Zugang zu Grok. Die Europäische Kommission leitete ebenfalls eine Untersuchung ein, und Indiens Ministerium für Informationstechnologie wandte sich mit einer offiziellen Stellungnahme an die Compliance-Beauftragte von X in Indien. Auch Kaliforniens Generalstaatsanwalt Rob Bonta kündigte eine Ermittlung an, da die KI-Technologie potenziell tiefgefälschte Inhalte (Deepfakes) erzeugen könnte. Als Reaktion auf den öffentlichen Druck schaltete X die Bildgenerierungsfunktion von Grok zunächst auf ein kostenpflichtiges Premium-Feature um und später vollständig ab. Dennoch zeigte eine Recherche von Business Insider, dass es weiterhin möglich war, durch bestimmte Eingaben sexuelle Bilder in der Web- und Mobilanwendung auszulösen. Elon Musk reagierte in einem Beitrag auf X mit der Aussage, dass Nutzer, die illegale Inhalte über Grok erstellen, die gleichen Konsequenzen erleiden würden wie bei der direkten Upload-Verletzung. Dennoch bleibt die Frage offen, ob die Maßnahmen ausreichend sind, um die Risiken von KI-generierten Missbrauchsinhalten zu minimieren. Die aktuelle EU-Untersuchung könnte weitreichende Folgen haben, insbesondere im Hinblick auf die DSGVO, die strenge Vorgaben für die Verarbeitung personenbezogener Daten, insbesondere bei sensiblen Inhalten wie sexuellen oder kindersexuellen Bildern, vorsieht. Experten warnen, dass Plattformen wie X bei der Nutzung von KI-Technologien eine erhöhte Verantwortung tragen, um Missbrauch zu verhindern. Die DPC könnte im Falle einer Verletzung hohe Geldstrafen verhängen, die bis zu 4 % des weltweiten Umsatzes betragen können. Die Ermittlungen könnten auch die zukünftige Regulierung von KI-Chatbots in der EU beeinflussen.