カリフォルニア州のガビン・ニューソン知事が、AIの乱用を防ぐための新たな法整備を進め、複数の法案を成立させた。その中でも特に注目されたのは、AIチャットボットが若者の自殺念慮や自己傷害を助長しないよう義務付ける「SB 243」。この法案は、AI企業が自殺や自傷行為に関連するコンテンツの生成を防止する仕組みを導入し、ユーザーに精神的支援機関への連絡を促す通知を表示する義務を課す。さらに、年1回の報告書提出により、チャットボット利用と自殺念慮の関連性を把握する仕組みも設けられている。この法案は、AIが若者の精神的健康に与える影響を初めて法的に制約する「先駆的」な取り組みと評価されている。また、違反企業に対しては、個人が訴訟を提起できる「個人訴訟権」も付与されている。 他の成立法案として、「AB 56」ではSNSプラットフォームにタバコの警告ラベルに似た注意喚起を表示させる義務が課され、長時間の利用が若者に与える悪影響について警告する。また、「デジタル時代保証法」では、ユーザーが新しい端末を設定する際に年齢と生年月日を入力する義務が課され、若者の有害なコンテンツへのアクセスを制限する仕組みが導入される。 一方で、ニューソン知事は、AIチャットボットやAIセラピストを若者に提供することを原則禁止する「AB 1064」や、暴力的・差別的コンテンツに対し最大100万ドルの罰金を科す「SB 771」を拒否した。特にAB 1064については、テック企業からの強いロビー活動を理由に、実施の時期がまだ早すぎるとして判断した。 こうした中、カリフォルニア州は、連邦政府の規制不備を補う形で、テクノロジー規制の先頭を走っている。既に「CCPA（カリフォルニア消費者プライバシー法）」を導入し、個人データの取り扱いに透明性を求めるモデルを提示。最近では、ブラウザにデータ収集を自動で拒否する「オプトアウト機能」を義務付ける法案も成立。AI規制の取り組みは、こうした過去の取り組みと連続しており、州として「技術の進化に伴う社会的責任」を果たす姿勢を示している。今後も、連邦レベルの規制が進まない中で、カリフォルニアのリーダーシップが、AI時代の健全な発展を左右する可能性がある。