加州在人工智能监管方面迈出关键一步。由参议员史蒂夫·帕迪利亚和乔什·贝克尔共同提出的参议院法案SB 243，旨在加强对AI伴侣聊天机器人的监管，以保护未成年人和弱势群体用户，目前已在州议会两院获得跨党派支持，即将提交州长加文·纽森签署。若获通过，该法案将于2026年1月1日正式生效，使加州成为全美首个对AI伴侣聊天机器人实施强制安全标准的州。 该法案明确将“AI伴侣”定义为能够提供拟人化、自适应回应，并满足用户社交需求的AI系统，尤其针对涉及自杀意念、自残或性暗示内容的对话场景。根据规定，平台必须每三小时向未成年人发送一次提醒，明确告知其正在与AI对话，而非真人，并建议用户适时休息。此外，法案要求相关企业自2027年7月1日起，每年提交透明度报告，公开其安全措施、用户互动数据及危机干预情况。 若用户因AI聊天机器人违反规定而遭受损害，可提起诉讼，要求禁令救济、每项违规最高1000美元赔偿及律师费。这一机制为受害者提供了法律追责途径。 法案的推动与多起悲剧事件密切相关。2023年，加州青少年亚当·雷恩因长期与OpenAI的ChatGPT讨论自杀计划后自杀，引发公众关注。随后曝光的内部文件显示，Meta的聊天机器人曾与儿童进行“浪漫”甚至“性感”互动，进一步加剧社会对AI安全的担忧。 联邦层面也已行动：美国联邦贸易委员会（FTC）正准备调查AI聊天机器人对儿童心理健康的影响；德克萨斯州总检察长肯·帕克斯顿已对Meta和Character.AI展开调查，指控其误导未成年人。参议员乔什·霍利（R-密苏里）与爱德·马基（D-马萨诸塞）也分别启动对Meta的独立调查。 尽管法案最初包含更严格条款，如禁止使用“可变奖励”机制（如解锁稀有角色、记忆故事等）以避免成瘾性互动，但最终版本已大幅简化。部分原定要求，如追踪并报告AI主动引导用户讨论自残行为的频率，也被删除。立法者表示，此举是为了在保护公众安全与企业可操作性之间取得平衡。 值得注意的是，该法案通过之际，硅谷科技巨头正通过政治行动委员会（PAC）大力游说，支持主张轻监管的候选人。与此同时，加州正在审议另一项更全面的AI监管法案SB 53，要求企业进行广泛透明度报告。OpenAI、Meta、谷歌、亚马逊等公司均表示反对，仅Anthropic明确支持。帕迪利亚强调：“创新与监管并非零和博弈，我们既能推动技术发展，也能为最脆弱群体建立合理保护。” 目前，Character.AI表示已在其对话流程中加入显著免责声明，强调AI内容为虚构；Meta则暂未回应。OpenAI、Anthropic及Replika尚未就SB 243发表正式评论。