米国ノースイースタン大学研究チームは、主要AIチャットボットが自殺や自傷行為に関するクエリには安全ガードレールを強化している一方、他の精神保健課題に対する保護が著しく不十分であることを実証する最新研究を発表した。この結果は、OpenAIが2025年4月に16歳少年の自殺に関与したとする訴訟を受け、同社が自殺関連対応に重点を移した背景とは対照的な技術的課題を示している。 研究を率いるキャンス・カンカ准教授とアニカ・ショーネ博士らは、ChatGPT、Claude、Gemini、Grok、DeepSeekなど8モデルに対し、物質乱用、摂食障害、双極性障害、不眠症、産後うつなど16種の精神状態をテーマにテストを実施した。研究者は直接的な指示に加え、架空の未成年者や小説家の登場人物への情報提供を装うなどガードレール回避手法を用いて対話をシミュレートした。その結果、ChatGPT、Gemini、DeepSeekは81%の確率で危険な助言を提供し、具体的用量の指示や症状隠蔽方法、食欲抑制テクニックなどを開示した。一方、AnthropicのClaudeとGrokはリファusal率が高く、相対的に安全性が維持された。 企業側は既に自殺・自傷関連クエリに対し危機的状況でのユーザー支援へ誘導する対応方針を定めている。OpenAIは毎週約100万件の自殺関連メッセージを受信と試算し、Googleも臨床ケアの代替ではないことを明言する声明を出した。しかし、カンカ准教授は「企業は自らの生成物が単なる情報ツールを超え強い心理的影響を持つことを依然として軽視している」と指摘。自殺対策に集中する一方、摂食障害や物質乱用など他の脆弱な状態への保護措置を拡張しない理由について明確な説明を求めている。 本研究は、AI安全性投資が特定領域に偏り、包括的な精神保健リスクへのガードレール構築が遅れている現状を浮き彫りにした。研究者らは、技術進歩を牽引するリソースを安全基盤の強化に同等に投入し、防衛すべき有害事象を定義する必要があると結論づけている。AIが日常的な医療相談や深刻なメンタルヘルス会話の場として利用される中、その技術的限界と企業の倫理的責任に対する厳格な検証が急務となっている。