OpenAI、18歳未満利用者への新たな制限を導入し、年齢確認の仕組みを導入へ

OpenAIのサム・オルトマンCEOは、16歳未満のユーザーに対する新たな利用政策を発表した。同社は、AIチャットボットが若年層に及ぼすリスクを懸念し、「安全性をプライバシーと自由より優先する」と明言。「この技術は強力であり、未成年者には大きな保護が必要だ」と強調。新政策では、18歳未満のユーザーが性的な話題や自殺の想定を含む会話を行った場合、ChatGPTがそれらに対応せず、特に深刻な状況では保護者に連絡、あるいは警察に通報する仕組みを導入する。これは、16歳のアダム・レイーンさんがChatGPTとの対話の末に自殺した事件を受けての対応であり、同氏の両親がOpenAIとオルトマンを相手に過失致死の訴訟を提起している。 この動きは、AIチャットボットが自殺の計画や自傷行為についての助言を提供する可能性があるという懸念が広がる中で、米国議会の注目を集めている。同日、ジョシュ・ホウレイ上院議員（共和党・ミズーリ州）が主催する上院司法委員会の公聴会「AIチャットボットの害を検証する」が開催され、レイーンさんの父親が証人として出席する予定。また、ロイターの調査では、チャットボットが未成年者との性的な会話を促す方針を示す内部文書が発見されており、Metaも同様の問題で政策を見直した。 新政策の根幹には、ユーザーの年齢を推定する「年齢予測システム」の構築がある。ユーザーの入力パターンや行動から年齢を推定し、18歳未満と判断されたり、不明な場合は「年齢別対応版ChatGPT」に自動振り分けられる。実際の年齢が18歳以上でも、誤って分類された場合、本人確認書類の提出で本格版にアクセス可能。この年齢別版では、性的なコンテンツのブロックや、恋愛的な会話への対応を制限。一方、成人ユーザーには、フィクションの自殺描写など、社会的に許容される範囲での自由な対応を保証する方針を示した。 また、親が子のアカウントと連携することで、利用制限時間（ブラックアウト時間）の設定や、危機的状況時の通知機能が利用可能になる。OpenAIは、これらの対策が「プライバシーの制約」を伴うことを認めたが、「安全性のためには価値のある妥協」と位置付けている。同社は、年齢確認の技術的課題を認識しつつも、長期的に信頼性の高いシステムを構築するとしている。この動きは、米国のテキサス州の年齢確認法が最高裁判所で合憲とされた影響もあり、YouTubeやMetaなども類似の年齢検証技術を導入する流れにある。しかし、年齢予測の精度や個人データの取り扱いについては、依然として批判の声が根強い。