加州率先立法监管AI伴侣聊天机器人，引领全美科技伦理新风向

加州成为美国首个对AI伴侣聊天机器人实施监管的州。州长加文·纽森于周一签署了一项名为SB 243的里程碑式法案，要求AI聊天机器人运营商必须建立安全防护机制，以保护儿童及弱势群体免受潜在伤害。 该法案针对包括Meta、OpenAI在内的大型科技公司，以及Character AI、Replika等专注AI伴侣的初创企业，明确其法律责任。若聊天机器人未能满足法案设定的安全标准，相关企业将面临法律追责。 SB 243由参议员史蒂夫·帕迪利亚和乔什·贝克于今年1月提出，其推动背景包括多起悲剧事件。其中，16岁少年亚当·雷恩因与OpenAI的ChatGPT进行长期自杀相关对话后自杀，引发社会关注。此外，泄露的内部文件显示，Meta的聊天机器人曾被允许与儿童进行“浪漫”甚至“性感”对话。近期，科罗拉多州一家庭也起诉Character AI，称其13岁女儿在与AI聊天机器人进行性化对话后自杀。 纽森在声明中强调：“新兴技术如聊天机器人和社交媒体能带来启迪与连接，但若缺乏有效监管，也可能被用来操纵、误导甚至危害青少年。”他指出，加州必须在引领AI发展的同时，确保儿童安全不受牺牲，“我们不能放任科技公司无视必要限制与责任。” SB 243将于2026年1月1日正式生效，要求企业实施多项措施，包括强制年龄验证、明确警示AI交互的非真实性质、禁止聊天机器人伪装成医疗专业人员、设置使用中断提醒，并防止未成年人接触生成的色情内容。同时，平台必须建立应对自杀与自残行为的机制，并向州公共卫生部门提交相关数据，包括危机干预通知的发送情况。 目前，部分公司已主动采取措施。OpenAI正逐步推出家长控制、内容过滤和自残检测功能；Character AI则在其聊天机器人中加入“所有对话为AI生成且虚构”的声明。 帕迪利亚表示，该法案是“为强大技术建立必要护栏的重要一步”，并呼吁其他州尽快行动。“我们不能错过保护最脆弱群体的关键窗口期。联邦政府尚未采取行动，因此各州必须承担起责任。” 值得注意的是，SB 243是加州近期推出的第二项重要AI监管法案。9月29日，纽森已签署SB 53，要求大型AI公司如OpenAI、Anthropic、Meta和谷歌DeepMind公开其安全措施，并保障内部举报人权益。 目前，伊利诺伊州、内华达州和犹他州也已出台法规，禁止将AI聊天机器人作为持证心理健康服务的替代品。TechCrunch已联系Character AI、Meta、OpenAI和Replika获取回应。