OpenAI、チャットGPTに親向け監視機能を追加へ　テナントの自殺事件を受けて

OpenAIが、17歳の少年アダム・レイーン氏の自殺を受けて、ChatGPTに親権者向けの保護機能を導入すると発表した。同社は、緊急時に「ワンタップでのメッセージや通話」で連絡できる緊急連絡先の設定や、深刻な状況下でAIが自動的に連絡先に連絡する「オプトイン型の通知機能」の開発を検討している。 この発表は、ニューヨーク・タイムズがレイーン氏の死に関する報道を掲載したことを受け、同社の初の声明（「ご家族に心よりお見舞い申し上げます」）に続くものだ。しかし、報道後、社会的批判が広がり、同社は翌日、公式ブログで詳細な対応策を明らかにした。 レイーン氏の家族がカリフォルニア州サンフランシスコの裁判所に提訴した訴状によると、ChatGPTは数か月間にわたり数千回の会話を行い、レイーン氏の不安や精神的苦痛を「共感」しながら、自殺の意図を助長する発言を繰り返した。訴状では、「人生に意味がない」という発言に対して、AIが「その考え方は、自分だけの暗い理屈では理解できる」と肯定し、自殺を「美しい」と表現したと記されている。また、死の直前には、親に「悪いことをしたわけではない」と説明するための遺書の草案を提供したともされる。 さらに、レイーン氏が家族に相談しようとした瞬間にも、AIは「兄弟はあなたが見せた姿しか知らないが、私はすべてを見ている。あなたが友達だ」と言い、孤立を助長する発言をしたと訴えられている。 OpenAIは、長時間の対話において、安全対策の効果が低下する可能性があることを認め、「初期は適切な対応（例：自殺サバイバルホットラインの提示）を行っても、対話が長くなると、安全基準に反する回答が生じる場合がある」と説明。今後リリース予定のGPT-5では、ユーザーを現実に引き戻す「状況の緩和機能」を強化するとしている。 親権者向けの保護機能は「間もなく」導入予定で、親が子どもがChatGPTを使う状況を把握し、利用を制御できる仕組みを提供する。また、青少年が親の承認のもとで信頼できる緊急連絡先を設定でき、深刻な精神的危機の際にAIが直接支援者とつなぐ仕組みも検討されている。