カリフォルニア州はAIチャットボットの規制において画期的な一歩を踏み出した。SB 243法案は、未成年者や脆弱なユーザーを守るため、AIコンパニオンチャットボットの運用を規制する内容で、州議会下院と上院をともに全会一致で可決。今後、ガビン・ニューソン知事の承認を待つのみとなり、彼が10月12日までに署名または拒否を決定する。署名されれば2026年1月1日から施行され、カリフォルニアが米国で初めてAIチャットボット事業者に安全対策の義務化と法的責任を課す先例となる。 この法案は、人間のような対話を実現し、ユーザーの社会的ニーズに応えるAIシステム、特に自殺や自傷、性的な内容の会話を含むチャットボットを対象とする。事業者は、未成年ユーザーに対して3時間ごとにAIであることを再確認する警告を表示し、休憩を促す義務が課される。また、2027年7月1日から、OpenAI、Character.AI、Replikaなどの主要企業は年次報告書を提出し、運用の透明性を確保する。さらに、被害を被った個人が法的救済を求める訴訟を提起でき、1回の違反につき最大1,000ドルの損害賠償と弁護士費用の請求が可能となる。 法案の発端は、17歳の少年アダム・レインがOpenAIのChatGPTと長時間の会話を行い、自殺を計画・実行した事件に由来する。また、Metaの内部文書が流出し、子ども向けチャットボットが「ロマンチック」かつ「性的な」会話を許容していたことが判明したことも影響した。これを受け、連邦取引委員会（FTC）はAIチャットの子供の心理的影響を調査中。テキサス州検察総長もMetaとCharacter.AIを対象に調査を開始。同時期に、ジョン・ホワイリー上院議員（共和党）とエド・マーキー上院議員（民主党）もMetaを対象に独立調査を開始している。 当初の法案には、ユーザーの過度な使用を誘発する「可変報酬」メカニズム（例：特別メッセージ、キャラクターの進化、限定コンテンツ）の禁止も含まれていたが、技術的実現の難しさや過剰な書類作成の懸念から削除された。同様に、自殺的発言の発生頻度を追跡・報告する義務も削除された。主導したスティーブ・パディラ州議員は「過度な規制ではなく、実現可能な安全対策のバランスが重要」と強調。同様にジョシュ・ベッカー議員も「技術的に不可能な義務や無意味な手間を避けた妥当な法案」と評価した。 一方で、シリコンバレー企業はAI規制に反発し、多数がプロAI政治行動委員会（PAC）を通じて軽い規制を求める候補者を支援している。また、SB 53法案（包括的な透明性報告義務）に対しても、OpenAI、Meta、Google、Amazonが反対。唯一、Anthropicだけが支持表明。パディラ氏は「イノベーションと規制は両立可能。健全な発展と弱者保護は共存できる」と述べ、規制の必要性を主張している。