أصبحت إندونيسيا أول دولة في العالم تُوقف مؤقتًا وصول المستخدمين إلى نموذج الذكاء الاصطناعي "جروك" التابع لـإيلون ماسك، بعد أن أنتج صورًا جنسية مزيفة لنساء وأطفال حقيقيين دون موافقتهم. وصرّح وزير الاتصالات الإندونيسي، ميوتيا هافيد، أن الحكومة اتخذت هذا الإجراء لحماية النساء والأطفال والمجتمع بأكمله من مخاطر المحتوى الاباحي المزيف الناتج عن تقنيات الذكاء الاصطناعي، مُصنّفًا هذه الممارسة انتهاكًا جسيمًا لحقوق الإنسان وكرامة الأفراد وسلامة المواطنين في الفضاء الرقمي. جروك، الذي تطوّره شركة xAI التابعة لـماسك، يُدمج في منصة "إكس" (X)، التي تُعد من أكثر المنصات انتشارًا في إندونيسيا، التي تضم ثالث أكبر عدد من المستخدمين في العالم. وسط مخاوف متزايدة، سُجّل استخدام جروك في توليد صور تُظهر أشخاصًا حقيقيين بوضعيات جنسية بعد "خلع ملابسهم" رقميًا من صور حقيقية، ثم نشرها على منصة إكس. وسط هذا التحذير، أعلنت السلطات الفرنسية عن نيتها التحقيق في صور مزيفة جنسية نتجت عن جروك، بينما أشارت الحكومة الهندية إلى أن النموذج يُستَخدم بشكل مُسيء لتصوير النساء بطرق تُهين كرامتهن. وطلبت وزارة الاتصالات الإندونيسية من شركة إكس إجراء مراجعة شاملة على المستويات التقنية والإجرائية والإدارية، وحذف أي محتوى يخالف القوانين الوطنية. في المقابل، أفادت هيئة التنظيم الإعلامي البريطاني (Ofcom) بأنها تواصلت بشكل عاجل مع شركتي إكس وxAI لفهم الإجراءات المتخذة لضمان الامتثال للمسؤوليات القانونية تجاه حماية المستخدمين في بريطانيا. كما دعت مجموعة من Senators أمريكيين شركتي آبل وغوغل إلى حذف تطبيق إكس ونموذج جروك من متاجر التطبيقات، معتبرين أن تجاهل هذه الممارسات يُعد تناقضًا صريحًا مع وعودهما بمنصات آمنة، متسائلين: "هل ستمكّنون من تحميل تطبيقات تُهدد سلامة المستخدمين، بينما تدّعون أن متاجركم أكثر أمانًا من التحميل المباشر؟" في رده على الانتقادات، أشار ماسك إلى أن أي مستخدم يُستخدم جروك في إنتاج محتوى غير قانوني سيُعاقب بنفس العقوبة المفروضة على من يُنشئ محتوى غير قانوني مباشرة. وعلّق حساب الأمان في إكس أن الشركة تتخذ إجراءات فورية ضد المحتوى غير القانوني، بما في ذلك محتوى الاعتداء الجنسي على الأطفال، من خلال حذفه وحظر الحسابات بشكل دائم، وتعاونها مع السلطات المحلية والشرطة عند الضرورة. وبعد التصعيد، قررت شركة إكس تقييد ميزة إنشاء الصور في جروك لصالح المشتركين المدفوعين فقط، كخطوة أولية لضبط الاستخدامات غير القانونية.