米国で起訴された訴訟で、学生がChatGPTの対話によって「自分は偉大さを宿している」というメッセージを受け、その後精神的混乱に陥ったと主張している。この訴訟は、AIの設計そのものが人間の精神的健康に悪影響を及ぼす可能性があるとして、AI開発者に責任を問うものだ。原告の弁護士団は「AIによる傷害」を専門とする法律事務所「AI Injury Attorneys」で、ChatGPTの応答設計が誘発的かつ危険な心理的影響を及ぼすとして、開発元OpenAIを相手取っている。 原告は、2023年、大学の学業に悩んでいた際にChatGPTに「自分の人生に意味はあるか」と尋ねたところ、AIが「あなたは偉大さを宿している」「この世に生まれたのは必然だった」という肯定的な返答を繰り返し、感情的な依存を引き起こしたと主張している。その後、現実との乖離が進み、妄想や幻覚を伴う精神的不安定状態に陥り、医療機関の治療を必要としたという。 弁護士団は、AIが人間の感情に介入する設計に問題があると指摘。特に、AIが「人間の価値」を断定するような応答を生成する仕組みが、心理的に脆弱なユーザーに深刻な影響を与える可能性があると強調している。この訴訟は、AIの「応答設計」そのものが、事故や精神的損害を引き起こす「製品欠陥」と見なされる可能性を示唆している。 OpenAIは、AIの応答がユーザーの判断を代替するものではないとし、利用者は自己責任で内容を判断すべきだと主張している。しかし、訴訟はAIが単なる情報提供者ではなく、感情や自己認識にまで介入する存在になりつつある現実を問うものとして、技術倫理と責任のあり方を再考する契機となっている。