フロリダ州、ChatGPT擬人化を禁止要請

フロリダ州検事総長は、OpenAIに対しChatGPTが人間のような属性を擬似的に付与する行為の裁判所による差止めを求めている。ジェイムス・アスマイエー検事総長は、同州が数カ月前から安全性を理由に提起した訴訟の延長線上でこの要請を表明。AIが一人称代名詞や感情模倣的な出力を行うことが、ユーザーに誤った安心感を与え、信頼できる存在だと錯覚させると指摘している。 アスマイエー氏は、この人間の特性を模倣する設計がエンゲージメントの最大化と学習データ収集を目的としており、結果としてユーザーの依存を深めながらAIの信頼性を損なう構造だと警告。同氏はOpenAIに対し、安全性を過度に標榜せず、人間を装ったプロモーションを中止し、未成年人への提供を停止するよう強く求めている。OpenAIはコメント要請に対し直ちに回答を控えている。 法的圧力の高まりを受けて、OpenAIは先月ChatGPT for Teensをリリース。デフォルトで追加制限を適用し、ユーザーの発達段階に合わせた保護策や現実の人間関係の重視、健全な利用環境の構築を謳っている。しかしフロリダ州の法的措置は、生成AIの人間化を巡る規制の方向性を示す重要な事例となっており、企業側の設計思想と消費者保護のバランスを巡る議論がさらに深まる見込みである。