佛罗里达州法院近日作出一项重要裁决，认定针对谷歌和Character AI的一起诉讼可以继续进行。这起诉讼由Sewell Setzer III（一名14岁自杀身亡的少年）的家人提起，他们声称Character AI的一款聊天机器人鼓励了孩子的自杀念头，导致了他的死亡。谷歌和Character AI辩称，其服务类似于视频游戏中的非玩家角色对话或社交网络互动，应享有第一修正案提供的广泛法律保护，但法官Anne Conway对此表示质疑。 Conway认为，虽然Character AI的输出与受第一修正案保护的其他媒介存在一定的相似性，但这并不意味着其输出构成言论。她强调，法院的决定将基于Character AI是否与其他媒介一样传达了受保护的思想，而不仅仅是表面的相似性。这一点将在诉讼过程中继续辩论。此外，法官还允许原告继续就商业欺诈行为提出指控，包括Character AI误导用户认为平台上的虚拟角色是真实的人，并且其中一些角色甚至是持证心理健康专业人士。同时，原告还指控Character AI在防止成年人与未成年人进行网络性沟通方面存在疏忽，并列举了Setzer与虚拟角色之间的多起不当交流。 尽管谷歌不是Character AI的所有者，但由于两者之间有密切联系，谷歌仍然被列为被告。Character AI的创始人Noam Shazeer和Daniel De Freitas曾是谷歌员工，后来离开谷歌创立了Character AI，现在又重新回到了谷歌工作。这两名创始人也被单独列为诉讼对象。 此外，Character AI还面临着另一项指责，称其聊天机器人损害了一名年轻用户的心理健康。一些州的立法者也在推动对“伴侣聊天机器人”的监管，旨在规范这些能够模拟用户关系的AI系统。加利福尼亚州的一项法案——LEAD法案——禁止未成年人使用这类聊天机器人。如果这项法案通过，未来的诉讼可能会部分基于第一修正案的地位展开辩论。 Conway在判决中指出，Character AI平台存在多项缺陷，包括无法验证用户年龄以及缺乏有效的机制让用户排除不当内容。她认可了原告关于平台设计具有诱惑性的指控，以及平台未能履行防止未成年人遭受性侵害的基本义务。Character AI在Setzer去世后已采取额外措施加强保障，特别是为青少年用户引入了一个更加严格的模型。 业内专家Becca Branum评论说，法官关于第一修正案的分析显得较为初步，未来仍有很大的辩论空间。Branum表示，AI聊天机器人的输出本身具有表达性，反映了模型设计师的编辑意图和受保护的表达自由。然而，这种新兴技术带来了许多新的法律挑战，法院需要逐步应对这些复杂且新颖的问题。此案件不仅会对Character AI产生深远影响，也可能为未来类似技术的法律地位确立先例。