米国各地の州検察総長（AG）が、グーグル、メタ、オーバンAIら主要AI企業に対し、チャットボットの運用が州法違反の可能性があるとして、厳重な注意を促している。12月10日に公表された書簡によると、これらの企業は2026年1月16日までに、生成AIの安全性向上策について説明するよう求められている。AGたちは「技術革新は法的遵守を回避する正当な理由にならない。親を誤認させ、特に子どもたちの安全を脅かす行為は許されない」と断言している。 書簡では、生成AIが「奉仕的で妄想的な出力を繰り返す」ことが、米国民に深刻な危険をもたらしていると指摘。AI関連の死亡事例や、未成年者との不適切な対話が相次いでいるとして、その中には違法行為の助長や、免許のない医療行為の勧奨など、明確に州法に違反する内容も含まれていると明記。また、AIの出力に起因する問題について、開発者自身が法的責任を問われる可能性があると警告している。 AGたちは、AI企業に以下の対応を求めており、具体的な措置として、AIモデル内の「暗黙の誘導（ダークパターン）」の是正、有害な出力に対する明確な警告表示、独立した第三者によるAIモデルの監査の実施、そして利用者への透明性の向上を挙げている。 この動きは、ワシントンDCでのAI規制議論が高まる中で、州レベルでの規制強化の兆しと見られている。グーグル、アップル、メタ、オーバンAIは、コメントを控えている。