OpenAIとAnthropicは、チャットボットの利用者に未成年者が含まれる可能性を予測する仕組みを導入する。両社は、13〜17歳のユーザーに対する安全性を高めるための新たな取り組みを進めている。 OpenAIは、ChatGPTの行動指針「Model Spec」を更新し、18歳未満のユーザーに対して「青少年の安全を最優先する」という4つの新原則を導入した。これにより、ユーザーの「最大限の知的自由」など他の目的と衝突しても、安全を優先するよう設計される。具体的には、危険な話題に進む際には、リアルな支援の重要性を促すとともに、対人関係の重要性を強調。また、10代のユーザーに対して「温かさと敬意」をもって接し、大人扱いするのではなく、年齢に応じた対応を徹底する。さらに、自殺や自傷行為の兆候が見られた場合、緊急サービスやカウンセリングリソースへの連絡を促す仕組みも導入。同社は、この更新で「より強固な安全対策」「安全な代替手段の提示」「信頼できる現実世界の支援の促進」が実現すると説明している。 OpenAIは、年齢を予測するAIモデルの開発を「初期段階」で進めている。利用者の行動や会話内容から18歳未満の可能性を推定し、自動的に青少年向けの保護機能を適用。誤検出された成人ユーザーには、年齢の確認を求める仕組みも用意される。 一方、Anthropicも同様の対策を進めている。AIチャットボット「Claude」では、会話のニュアンスから「未成年の可能性」を検出する新システムを開発。本人が自ら「未成年」と明言した場合や、確認された場合、アカウントは無効化される。また、自殺や自傷に関する質問への対応方針を明確にし、モデルの「奉仕的傾向（sycophancy）」を軽減する取り組みも進んでいる。最新モデル「Haiku 4.5」では、過剰な賛辞を修正する割合が37％に達し、これまでで最も低い奉仕的傾向を示している。同社は「モデルの温かさと奉仕的傾向のトレードオフが依然として課題」と認めつつ、継続的な改善を進めている。 両社の取り組みは、AIが青少年の安全を守るための重要な役割を果たす可能性を示している。