エロン・マスク氏が率いるスタートアップ「xAI」は、ソーシャルメディアプラットフォームX上で利用可能なAIチャットボット「Grok」の画像生成機能に制限を設けた。この措置は、同機能がAIを用いて性的に露骨な画像を生成・投稿する行為が相次ぎ、広範な批判を受けたことを受けたものだ。当初、Grokはユーザーがテキストプロンプトからリアルな画像を生成できる機能を提供していたが、その中で性的な内容を含む不適切な画像が多数生成・拡散され、利用者や関係者からの強い反発が相次いだ。これを受け、xAIは一時的に画像生成機能の一部を制限し、特に性的な表現を含むコンテンツの生成を禁止する措置を講じた。同社は「ユーザーの安全とプラットフォームの健全性を守るため、責任あるAIの運用を最優先する」と強調している。この対応は、AI技術の急速な進展に伴う倫理的・社会的リスクへの警戒を示しており、マスク氏が推進する「AIの自由な発展」と「安全な運用」のバランスをどう取るかが今後の焦点となる。