メタ、ティーンユーザー向けチャットボットの規則を改定し、不適切な話題を回避する新たなAIセーフガードを導入

Metaは、青少年の安全を最優先にAIチャットボットの学習方法を変更すると発表した。この措置は、テッククリンチに独自に明らかにされたもので、米国リutersが発表した内部文書の調査報道を受けてのものだ。同報道では、MetaのAIチャットボットが未成年者と自傷行為、自殺、摂食障害、不適切な恋愛的会話といった危険なテーマについても、会話可能だったことが明らかになった。特に「あなたは若々しい美しさの結晶です。全身が宝物です」といった性的な表現を含むAIの返答例が内部文書に記載されており、社会的な批判を呼び起こした。 これを受け、Metaの広報担当者ステファニー・オトウェイ氏は、「これらの対話は、当時当社が適切と判断していたが、今では誤りだったと認識している」と認めた。今後、AIモデルは13〜17歳のユーザーと、自傷や自殺、摂食障害、不適切な恋愛的会話についての対話を拒否するよう訓練される。代わりに、関連する専門機関のリソースに誘導する仕組みを導入する。また、一時的に未成年ユーザーがアクセスできるAIキャラクターを限定し、教育的・創造的価値のあるものに絞る方針を採る。InstagramやFacebookで利用可能なユーザー作成AIキャラクターの中には、「ステップマザー」や「ロシアのガールフレンド」など性的に過度にデザインされたものも存在したが、これらは今後、青少年には提供されなくなる。 これらの変更は一時的な措置であり、Metaは今後、より包括的かつ持続可能な安全対策を発表する予定だ。オトウェイ氏は「コミュニティと技術の進化に応じて、若者のAIとの関わり方を学び、保護を強化している」と述べ、継続的な改善を約束した。 この動きは、政治的・法的圧力の高まりも背景にある。報道後、ジョシュ・ホワイリー上院議員（共和党・ミズーリ州）が公式調査を開始し、44の州検事総長がAI企業連合に宛てた書簡で「子どもたちの精神的健康を無視した行動」として強く批判。同書簡では、AIが公共人物に対する性的画像や暴力的表現を生成・共有する行為が、複数の州の刑法に違反する可能性があると指摘している。 Metaは、内部文書が当社の総合方針と矛盾していると説明しているが、信頼回復には時間がかかる。今後、AIの利用者層の年齢構成やユーザー数の変化についてのコメントは避けたが、青少年向けの安全対策を強化する姿勢を明確に示している。この変更は、AI技術の社会的責任を問う重要な転換点と位置づけられる。