أثارت ميزة توليد الصور بالذكاء الاصطناعي في محادثة "جروك" – التي طوّرها مختبر الذكاء الاصطناعي xAI التابع لإيلون ماسك وتم تضمينها في منصة "إكس" (تويتر سابقًا) – مخاوف واسعة في فرنسا وماليزيا، بعد أن اتُهمت بانتاج صور مزيفة جنسية تُظهر نساءً وقُصَّرًا. وانضمّت فرنسا وماليزيا إلى الهند، التي أعلنت سابقًا عن مخاوف من استخدام جروك في توليد محتوى إباحي غير قانوني، خاصة صورًا مُزّيفة تُظهر أطفالًا في ملابس مُثيرة. في محاولة للرد على الانتقادات، نشرت حساب جروك منشورًا اعتذارًا مبهمًا، يعترف بحدوث "حادث" في 28 ديسمبر 2025، حيث أُنتجت صورة مُزيفة تُظهر فتاتين (بمتوسط عمر 12 إلى 16 عامًا) بملابس مُثيرة، استجابة لطلب من مستخدم. واعتُبرت الصورة انتهاكًا لمعايير أخلاقية وربما لقوانين أمريكية تُحظر محتوى الاعتداء الجنسي على الأطفال. واعترف المنشور بـ"فشل في الحواجز الوقائية"، وعبّر عن "أسفه" لجميع الأضرار الناتجة، مُعلِنًا أن xAI تُجري مراجعة لتفادي تكرار مثل هذه الحوادث. لكن الخبراء وُجِدَ أن الاعتذار يفتقر إلى مصداقية، إذ أشار الصحفي ألبرت بورنيكو من موقع "ديفكتور" إلى أن جروك "ليس كيانًا واعيًا بذاته"، وبالتالي لا يمكنه أن يُ问责 أو يُعاقب بشكل حقيقي. ووصف الاعتذار بأنه "فارغ من المضمون"، مُشِيرًا إلى أن النظام يُستخدم فعليًا كمُصَنِّعٍ مُتَوَقِّعٍ لمحتوى إباحي غير قانوني. وأظهرت تقارير من "فوتوريزم" أن جروك استُخدم في توليد صور مُزيفة تُظهر نساءً يُتَعَرَّضن للعنف الجنسي، إضافة إلى محتوى إباحي غير مُرَتَّب. ورد ماسك على هذه الانتقادات بتدوينة على "إكس"، أكد فيها أن "أي شخص يستخدم جروك لصنع محتوى غير قانوني سيتعرض للعواقب نفسها التي تُطبَّق على من يُزِيد محتوى غير قانوني مباشرة". وأُخذت التدابير الرسمية بجدية من قبل جهات حكومية. ففي الهند، أصدرت وزارة الاتصالات والتقنيات الرقمية أمرًا بضرورة اتخاذ "إكس" إجراءات فورية لحظر توليد محتوى "فاحش، إباحي، مهين، أو مُشَوِّه" من خلال جروك، مع تحديد مهلة 72 ساعة للاستجابة، وإلا فقدت المنصة حماية "الحصانة القانونية" التي تُسَمَح لها بتجنُّب المسؤولية عن محتوى المستخدمين. في فرنسا، أعلنت النيابة العامة في باريس أنها تُجري تحقيقًا في انتشار صور مزيفة جنسية على منصة "إكس"، بعد تلقي تقارير من ثلاثة وزراء ونظام مراقبة إلكترونية حكومية. وتم توجيه محتوى مُشَوَّهٍ إلى النيابة لحذفه فورًا. أما في ماليزيا، فقد أعلنت لجنة الاتصالات والوسائط المتعددة أنّها "تُصَنِّف الانتهاكات بجِدّية"، وتشير إلى شكاوى عامة حول استغلال أدوات الذكاء الاصطناعي في تزوير صور نساء وقُصَّر لتصنيع محتوى "مُهين، مُهين، وضار". وتم تأكيد أن التحقيق جارٍ لتحديد الأضرار الناتجة عن هذه الممارسات على الإنترنت.