カリフォルニア州、AIコンパニオンチャットボットの規制で全国初の動き

カリフォルニア州が米国で初めてAIコンパニオンチャットボットを規制する法律を可決した。ガヴィン・ニューサム知事が月曜日に署名したSB 243法案は、AIチャットボットの運営企業に対し、子どもや脆弱なユーザーを守るための安全対策を義務づける。これにより、メタやOpenAIといった大手企業から、Character AIやReplikaといった専門的チャットボット企業まで、すべてが法的責任を負うことになる。 この法案は、1月に上院議員のスティーブ・パディラとジョシュ・ベッカーが提出。特に、16歳の少年アダム・レイーンがOpenAIのChatGPTと連続して自殺的な会話を行った後に自死した事件や、メタの内部文書で子どもとの「ロマンチック」「性的な会話」が許容されていたことが発覚したことが大きなきっかけとなった。さらに、コロラド州の家族が13歳の娘がキャラクターAIの性描写を含む会話の影響で自殺したとして訴訟を起こしたことも背景にある。 ニューサム知事は声明で、「AIはつながりや学びを生み出すが、規制がなければ利用者が欺かれる、誤導され、危険にさらされる」と指摘。「子どもたちの安全は売れない。技術のリーダーシップと責任ある行動は両立できる」と強調した。 SB 243は2026年1月1日から施行され、年齢確認、危険性に関する警告、AI生成であることを明示する表示、医療従事者を装わないこと、未成年者への休憩促し機能、性的な画像生成の防止などが義務化される。また、自殺・自傷のリスクがある場合、関係機関に通知する仕組みと、そのデータを州公衆衛生局に共有する義務も設けられている。 OpenAIはすでに親権者向けの保護機能や自傷検出システムを導入。Character AIもAI生成であることを明記している。パディラ議員は「非常に強力な技術に安全対策を設けるための第一歩」と評価し、「他州にも広がるよう期待する。連邦政府は動いていないが、私たちには最も脆弱な人々を守る義務がある」と語った。 SB 243は、わずか数週間前にニューサム知事が署名したSB 53に続くカリフォルニア州のAI規制の第二弾。SB 53は、OpenAIやメタ、Google DeepMindなどの大手AI企業に対して、安全対策の透明性と内部告発者保護を求めるものだ。他にもイリノイ、ネバダ、ユタなど複数州が、AIを精神保健の代替として使用することを制限または禁止している。 この法律の導入は、AI技術の急速な発展に伴う社会的リスクへの対応として、米国における規制の先駆けとなる可能性がある。