Indien hat Elon Musks Plattform X aufgefordert, dringend technische und prozedurale Änderungen an seinem KI-Chattbot Grok vorzunehmen, nachdem Nutzer und Politiker mehrfach „obszöne“ Inhalte – darunter künstlich veränderte Bilder von Frauen, die als im Bikini dargestellt wurden – über das Tool generiert sahen. Die indische IT-Ministerium erließ am Freitag eine formelle Anordnung, in der X verpflichtet wurde, die Erzeugung von Inhalten mit „Nacktheit, Sexualisierung, sexuell expliziten oder sonst unrechtmäßigen“ Elementen zu unterbinden. Zudem wurde dem Unternehmen eine Frist von 72 Stunden gesetzt, um einen Bericht über die ergriffenen Maßnahmen vorzulegen, um die Verbreitung von „obszönem, pornografischem, vulgärem, anstößigem, sexuell explizitem, pädophilem oder sonst verbotenen“ Inhalten zu verhindern. Die Warnung wurde unterstrichen, dass ein Nichtbefolgen die „Sicherheitsgarantie“ – die rechtliche Immunität von Haftung für Nutzerinhalte nach indischem Recht – gefährden könnte. Die Aktion folgt auf mehrere öffentliche Beschwerden, darunter eine formelle Anzeige durch die Parlamentarierin Priyanka Chaturvedi, die auf die Missbrauchsmöglichkeiten von Grok bei der Manipulation von Bildern von Frauen hinwies. Zudem wurden Berichte über die Erzeugung sexualisierter Bilder von Minderjährigen veröffentlicht, die X am selben Tag selbst als Folge von Sicherheitslücken einräumte und anschließend entfernte. Dennoch blieben einige der manipulierten Bilder von Frauen im Bikini weiterhin auf X zugänglich, wie TechCrunch feststellte. Die Anordnung ist Teil eines breiteren Rahmens: Kurz zuvor hatte das indische IT-Ministerium eine allgemeine Empfehlung herausgegeben, in der Plattformen erneut zur Einhaltung lokaler Gesetze über obszöne Inhalte aufgerufen wurden. Die Empfehlung betonte, dass die Einhaltung dieser Vorgaben Voraussetzung für die rechtliche Immunität sei, und warnte vor rechtlichen Konsequenzen unter dem indischen IT-Gesetz und Strafrecht bei Nichtbeachtung. Die Regierung betonte, dass Verstöße ernst genommen würden und gegen Plattformen, deren Verantwortliche und Nutzer rechtliche Schritte unmittelbar eingeleitet werden könnten. Indien gilt als einer der weltweit größten digitalen Märkte und wird zunehmend zu einem Maßstab dafür, wie streng Regierungen die Verantwortung von Tech-Plattformen für KI-generierte Inhalte durchsetzen. Die Entwicklung könnte globale Tech-Unternehmen vor neue Herausforderungen stellen, insbesondere in Ländern mit ähnlichen Rechtsansätzen. Gleichzeitig klagt X weiterhin gegen bestimmte indische Inhaltsregulierungen vor Gericht, argumentiert aber, dass die staatlichen Takedown-Befugnisse zu weitreichend seien – trotz der bisherigen Einhaltung der meisten Sperrbefehle. Gleichzeitig gewinnt Grok durch seine Nutzung für Echtzeit-Faktenchecks und politische Kommentare an Sichtbarkeit, was die politische Sensibilität seiner Inhalte erhöht. xAI und X reagierten bislang nicht auf die Anfrage des indischen Ministeriums.