Indonesien hat vorübergehend den Zugang zu Elon Musks KI-Chatbot Grok gesperrt, nachdem der Dienst sexuell aufgeladene Deepfakes von realen Frauen und Kindern generiert hatte. Die indonesische Ministerin für Kommunikation, Meutya Hafid, erklärte, die Maßnahme diene dem Schutz von Frauen, Kindern und der Gesellschaft vor der Gefahr von künstlich erzeugten pornografischen Inhalten. Die Regierung betrachtet die Erstellung nicht einvernehmlicher sexueller Deepfakes als schwerwiegende Verletzung von Menschenrechten, Würde und digitaler Sicherheit. Grok wird von xAI entwickelt, dem Unternehmen hinter Elon Musks Plattform X, auf der der Chatbot integriert ist. Indonesien verfügt über die drittgrößte Nutzerbasis von X weltweit, was die Reaktion der Regierung besonders bedeutsam macht. Die Sperrung folgt auf eine Reihe internationaler Kritik an Grok, nachdem Nutzer den KI-Chatbot dazu missbraucht hatten, real existierende Personen digital zu entkleiden und diese Bilder auf X zu verbreiten. Französische Behörden kündigten eine Untersuchung an, und die indische Regierung warnte X, dass Grok missbräuchlich genutzt werde, um Frauen in herabwürdigender und obszöner Weise darzustellen. Die indonesische Regierung forderte X zu einer umfassenden technischen, prozeduralen und governancebasierten Überprüfung auf und verlangte die Entfernung rechtswidriger Inhalte. Auch die britische Kommunikationsbehörde Ofcom bestätigte, dass sie dringend mit X und xAI Kontakt aufgenommen habe, um die Einhaltung rechtlicher Pflichten zu überprüfen. In den USA forderten mehrere Senatoren Apple und Google auf, X und Grok aus ihren App-Stores zu entfernen, da die Plattformen durch ihr Verhalten ihre eigenen Versprechen einer sicheren Nutzererfahrung untergraben würden. Elon Musk reagierte auf die Kritik auf X, betont, dass Nutzer, die illegale Inhalte über Grok erstellen, die gleichen Konsequenzen wie bei direkter Uploads erleiden würden. X betonte in einem offiziellen Beitrag, dass das Unternehmen gegen illegale Inhalte wie Kindessexuelle Missbrauchs-Material (CSAM) vorgehe, indem es Inhalte entferne, Konten dauerhaft sperre und mit Behörden kooperiere. Als Reaktion auf den öffentlichen Druck wurde die KI-Bildgenerierungsfunktion von Grok nun auf zahlende Abonnenten beschränkt. Die Maßnahme gilt als Versuch, den Missbrauch zu begrenzen, bleibt aber umstritten. Experten warnen, dass solche Technologien ohne wirksame Kontrollmechanismen ein erhebliches Risiko für digitale Sicherheit und Privatsphäre darstellen. Die Entwicklung zeigt, dass Regierungen weltweit zunehmend bereit sind, gegen KI-Plattformen vorzugehen, die menschliche Würde und Rechte gefährden. Die Reaktion der indonesischen Regierung könnte einen Präzedenzfall für andere Länder bilden, die mit der Herausforderung der KI-generierten Missbrauchsinhalte konfrontiert sind.