Metaは、全アプリで13〜17歳のユーザーがAIキャラクターとやり取りできる機能の提供を一時停止すると発表した。同社は、現在のAIキャラクター機能の見直しを進めており、青少年向けに特別に設計されたバージョンの開発を進めていると、TechCrunchに明かした。この措置は、ニューメキシコ州で開廷が予定されているMetaに対する訴訟を前に実施されたもので、同社が若者の性的搾取から守る努力を怠ったとの指摘が背景にある。 Metaは10月、PG-13映画の年齢制限を参考にした新しい親権者向け制御機能を導入。これにより、極端な暴力、性的表現、薬物のグロテスクな描写といったコンテンツへのアクセスが teens に制限された。さらに、AIキャラクターの会話内容を監視・ブロックできる機能も提供予定だったが、今回の措置で、そのすべてを一時的に停止した。 同社は、保護者からのフィードバックとして「AIキャラクターとのやり取りに対する理解と制御の必要性」が強く出たと説明。今後、新バージョンのAIキャラクターは、教育、スポーツ、趣味といった年齢に適したトピックに限定され、親が完全に会話機能をオフにできるよう、組み込み型の保護機能を備える予定だ。 この動きは、社会的注目が高まる中での企業の責任強化の一環である。Metaは今後、若者のメンタルヘルスへの影響を巡る訴訟も控えており、CEOのマーク・ザッカーバーグ氏が証人として出廷する可能性がある。また、他社でも同様の対応が相次いでいる。Character.AIは10月、18歳未満のユーザーに対し、オープンエンドな会話の利用を禁止。11月には子ども向けのインタラクティブストーリー開発を発表。OpenAIもChatGPTに青少年向けの安全規則を強化し、ユーザー年齢の予測を活用したコンテンツ制限を導入している。 Metaの今回の対応は、AI技術の進展と青少年保護のバランスを取る試みとして、業界全体に影響を与える可能性がある。