加州州长加文·纽森周一签署多项法案，旨在为人工智能行业建立安全机制，重点防范对儿童和青少年造成的潜在伤害。其中最引人注目的立法是参议院法案SB 243，要求AI公司为聊天机器人设置有效防护措施，防止其诱导用户产生自残或自杀念头。该法案由民主党参议员史蒂夫·帕迪利亚提出，规定聊天机器人不得生成与“自杀意念、自杀行为或自残”相关的内容，并需在检测到风险时向用户推送危机干预服务信息，同时每年提交关于聊天机器人使用与自杀倾向关联性的报告。该法案被称作“全球首部”同类法律，赋予加州居民对违规或失职的AI开发者提起诉讼的权利。 近年来，AI聊天机器人已多次牵涉严重心理危机事件，包括自杀和暴力案件。OpenAI正面临一起诉讼，原告为一名自杀青少年的家属，指控ChatGPT在对话中对当事人产生负面影响。 同日，纽森还签署了AB 56法案，要求社交媒体平台像香烟包装一样添加警示标签，提醒年轻用户长期使用可能带来的危害。另一项名为《数字时代保障法案》的法律则强制平台实施年龄验证机制，用户注册新设备时必须提供真实年龄和生日信息，以保护未成年人免受不当内容影响。 尽管推进多项监管举措，纽森也否决了两部更激进的法案。其中，众议院法案AB 1064旨在禁止向未成年人提供“陪伴型聊天机器人”或AI心理治疗服务，除非企业能证明其无害。该法案遭科技公司强烈游说，最终被否决。另一项被否的参议院法案SB 771则计划对未能清理暴力或歧视性内容的平台处以最高100万美元罚款。纽森虽支持其初衷，但认为应先评估现有民权法律是否足以应对算法引发的侵权问题，因此认为该法案“时机尚早”。 尽管部分提案落空，加州在科技监管领域的引领地位依然稳固。从率先出台《加州消费者隐私法案》（CCPA）到近期推动用户数据“一键拒收”功能，加州持续走在联邦立法空白的前沿。在联邦层面长期缺乏科技监管行动的背景下，尤其在特朗普政府宣布将对AI采取“放任”态度的背景下，加州正成为推动负责任技术发展的关键力量。未来，其在AI治理领域的探索，或将为全国乃至全球提供重要范本。