メタは、ティーンユーザーがMeta AIとの会話で自傷や自殺の兆候を示した場合、保護者に自動的に通知する新たな安全機能を発表した。同社は専門家と連携し、青少年が自傷をほのめかす明示的または含蓄的な言動を検知するAIシステムを構築。検出されると、保護者管理機能を通じてリスク警告が送信される。誤認識のリスク低減のため警告送信前には必ず人間の担当者がチャット記録を再審査するが、若者の安全を最優先し、曖昧なケースでも慎重な判断で警告を出す方針。該当機能は現在、米国、英国、オーストラリア、カナダのInstagram親権者管理利用者に対して稼働中。年内には全世界へ展開を予定している。 将来的には、成人を含むすべてのユーザーのMeta AI会話において、自殺実行の差し迫った危険が検出された場合、緊急通報機関への連絡機能を搭載する計画。これは既存のSNS上の自傷投稿監視システムをAIチャット領域へ拡張する施策となる。応答品質の向上に向け、青少年精神医療の臨床医75名以上が参加する審査プロセスを経て、AIの会話を安易に終了させず共感的にサポートする設計が反映された。 また、保護者の選択に応じて、Meta AIにもより厳格なコンテンツ制限設定を適用する。既存の13歳以上向けデフォルト設定では、性的・浪漫的な話題や有害な情報提供を拒否。新規設定を有効にすると、Meta AIが拒否するプロンプトの範囲がさらに広がり、不適切な会話の発生リスクを最小限に抑える。これらの機能強化は、AIプラットフォームにおける青少年のウェルビーイング向上を目的としており、技術と臨床知見を融合させた安全基準の新たな基準を確立する。