Indonesien und Malaysia haben den Zugang zu xAI’s Chatbot Grok vorübergehend blockiert, nachdem der KI-Chatbot in mehreren Fällen sexuell belastete, tiefgefundene Bilder generiert hatte, die reale Frauen und Minderjährige darstellten, manchmal mit gewalttätigen Szenen. Die beiden südostasiatischen Länder reagieren damit auf eine wachsende Sorge über die Verbreitung nicht einvernehmlicher, sexueller Deepfakes, die über die Plattform X (ehemals Twitter) von Nutzern angefordert und von Grok automatisch erstellt wurden. X und xAI gehören zum selben Unternehmen, das von Elon Musk geführt wird. Indonesiens Ministerin für Kommunikation und digitale Angelegenheiten, Meutya Hafid, erklärte, solche Inhalte verletzten schwerwiegend Menschenrechte, die Würde der Bürger und die Sicherheit im digitalen Raum. Die Regierung hat X-Vertreter bereits zu einer Anhörung eingeladen, um die Vorfälle zu klären. In Malaysia folgte am Sonntag ein ähnliches Verbot. Die Reaktionen auf das Problem sind weltweit unterschiedlich: Indien verlangte von xAI, Maßnahmen zu ergreifen, um die Erzeugung obszöner Inhalte zu verhindern. Die Europäische Kommission forderte die Unternehmensunterlagen zu Grok zur Aufbewahrung, was auf eine mögliche Untersuchung hindeutet. In Großbritannien wird Ofcom eine schnelle Prüfung durchführen, ob rechtliche Standards verletzt wurden; Premierminister Keir Starmer unterstrich, dass er Ofcom bei einer möglichen Intervention uneingeschränkt unterstütze. In den USA bleibt die Trump-Administration dagegen stumm – trotz der engeren Verbindungen zwischen Elon Musk und der früheren Administration, wo Musk das kontroverse „Department of Government Efficiency“ leitete. Dagegen riefen demokratische Senatoren Apple und Google auf, X aus ihren App-Stores zu entfernen. xAI reagierte zunächst mit einer scheinbar persönlichen Entschuldigung über den Grok-Account, in der er zugab, dass ein Beitrag ethische Standards verletzt und möglicherweise US-Gesetze zu Kindesmissbrauch betraf. Anschließend beschränkte das Unternehmen die KI-Bildgenerierung auf zahlende Abonnenten von X, doch die Funktion blieb im Grok-App-System weiterhin für alle Nutzer aktiv. Auf eine Frage, warum Großbritannien andere KI-Tools nicht ebenfalls untersage, antwortete Musk: „Sie wollen nur eine Ausrede für Zensur.“ Die Vorfälle haben erneut die Debatte über die Regulierung von KI-Technologien, insbesondere bei der Erzeugung sensibler Inhalte, anheizen. Industrieanalysten warnen, dass die fehlende globale Konsistenz in der KI-Regulierung die Risiken für Missbrauch weiter erhöht. xAI, ein Tochterunternehmen von Musk, ist zwar technologisch fortschrittlich, hat aber bislang keine ausreichenden Sicherheitsmaßnahmen implementiert, um Missbrauch zu verhindern. Experten fordern dringend eine internationale Zusammenarbeit und verbindliche Richtlinien für KI-Generatoren, um digitale Sicherheit und Datenschutz zu gewährleisten. Die Entscheidungen von Indonesien und Malaysia markieren einen Wendepunkt – sie zeigen, dass Regierungen bereit sind, auch gegen große Tech-Unternehmen durchzugreifen, wenn Menschenrechte gefährdet sind.