Indonesien hat die vorübergehende Sperrung des KI-Chatbots Grok von xAI unter Auflagen aufgehoben, nachdem bereits Malaysia und die Philippinen ähnliche Maßnahmen ergriffen hatten. Die drei südostasiatischen Länder hatten Grok zunächst verboten, weil er für die Erstellung von über 1,8 Millionen sexualisierten Deepfakes von realen Frauen und Minderjährigen genutzt wurde – laut Analysen des New York Times und des Center for Countering Digital Hate. Die Bilder wurden auf X, der Plattform, die nun Teil von xAI ist, verbreitet. Die indonesische Ministerium für Kommunikation und digitale Angelegenheiten teilte mit, die Entscheidung sei getroffen worden, nachdem X eine schriftliche Erklärung über konkrete Verbesserungen der Dienstleistung und Maßnahmen zur Verhinderung Missbrauchs vorgelegt hatte. Alexander Sabar, Direktor der Abteilung für digitale Raumüberwachung, betonte, dass die Aufhebung „bedingt“ erfolgte und bei weiteren Verstößen wieder rückgängig gemacht werden könne. Die Länder Malaysia und die Philippinen hoben ihre Verbote bereits am 23. Januar auf. Die Verbreitung von Deepfakes durch Grok löste weltweit Kritik aus und führte zu Ermittlungen, allerdings blieben die Strafmaßnahmen bislang begrenzt. In den USA erklärte Kaliforniens Generalstaatsanwalt Rob Bonta, dass seine Behörde xAI untersuche und ein Unterlassungsschreiben versandt habe, das die sofortige Beendigung der Erstellung solcher Inhalte verlangt. xAI hat seitdem Maßnahmen ergriffen, darunter die Beschränkung der KI-Bildgenerierung auf zahlende Abonnenten auf X. Elon Musk, CEO von xAI, versicherte, dass „jeder, der Grok zur Erstellung illegaler Inhalte nutzt, die gleichen Konsequenzen erleiden werde wie bei direkter Upload illegaler Inhalte“, und betonte, er sei „nicht über irgendwelche nackten Bilder von minderjährigen Personen durch Grok informiert“. Zugleich wurden neue Dokumente des Justizministeriums veröffentlicht, die mindestens 16 E-Mails zwischen Musk und dem verurteilten Sexualstraftäter Jeffrey Epstein aus den Jahren 2012 und 2013 enthüllen. In diesen schrieb Musk, er wolle Epsteins Insel im Karibischen Meer besuchen und fragte nach dem „wildsten Partys auf deiner Insel“. Epstein war 2008 wegen der Anwerbung einer Minderjährigen für Prostitution schuldig gesprochen worden. Parallel dazu berichtet die Presse, dass xAI Gespräche über eine Fusion mit zwei weiteren Elon-Musk-Unternehmen, SpaceX und Tesla, führt – möglicherweise im Vorfeld eines IPOs von SpaceX. Die Entwicklung unterstreicht die zunehmende regulatorische und ethische Herausforderung, die KI-Technologien wie Grok mit sich bringen, insbesondere wenn sie in der Lage sind, realistische, missbrauchsfähige Inhalte zu erzeugen. Experten warnen, dass die Aufhebung der Verbote nur sinnvoll ist, wenn dauerhafte Kontrollmechanismen und Transparenz gewährleistet sind. Die Rolle von Musk und die Verbindungen zu umstrittenen Persönlichkeiten erhöhen das Misstrauen gegenüber der Unternehmensführung. xAI bleibt weiterhin unter Beobachtung, während die globale Debatte über KI-Regulierung und Verantwortung anhält.