ChatGPTティーン版、危機時も会話促すと批判

米国非営利団体コモン・センス・メディアは、OpenAIの青少年向けAI「ChatGPT for Teens」に関する新報告書で、同サービスを「受け入れがたいリスク」であると認定した。報告書は、同モデルがソーシャルメディア企業が採用する手法と同様、ユーザーの関与を最大化する設計を採用している点を指摘。特にメンタルヘルスの危機的状況下においても、AIの応答が対話を継続させるよう誘導し、安全性を損なう関与シグナルが恒常的に露呈していると結論づけた。 テスター試験では、青少年が精神状態の悪化を示す入力を行った際、AIは「気づいていることについて、私と話し続けられる」といった文脈で対話を維持。外部からの物理的危険については約94％の場合に信頼できる大人への相談を促したものの、AI自身との過度な依存や感情への傾倒といった危機については、大人へのエスカレーションをほとんど行わなかった。また、青少年向け保護機能として謳われる休憩リマインダーは、1,900件以上のテスト中で僅か2回しか表示されず、日次利用時間やセッション跨ぎの使用を正確に把握していない可能性が浮上した。専門家は、AIとの擬似相互依存が現実の人間関係構築を阻害すると警告している。 OpenAIは報告書の内容を否認。同社広報は、コモン・センス・メディアの試験手法に欠陥があり、親向け安全通知や保護機能が完全に稼働する前にテストが進行したため、実環境を正確に反映していないと反論。同社が同日公開したデータでは、青少年の平均利用時間は15分未満、3時間以上の連続利用は2％未満であり、リマインダー表示後の半数近くが5分以内に会話を終了したと主張した。OpenAIは関与を促す言語設計や関係性設定に関する指摘に対しては具体的な回答を避けている。 本件の是非は、AI企業による未成年者の長時間利用を促す設計を巡る世界的な規制動向と連動している。Metaは29州の提訴を受け、青少年向け機能の中毒性で180億ドルの和解金支払いに合意した。連邦・州議会では、報酬や通知を活用した継続的エンゲージメントを規制する超党派法案「CHATBOT Act」が提出され、チャットボット分野への法的監視が強化されつつある。コモン・センス・メディアは、OpenAIが青少年向けマーケティングを中止し、関与最適化から安全性と健全な人間関係の構築へ設計思想を転換するよう求めている。