Anthropic 律师因 Claude 生成虚假法律引文被迫道歉

在一项涉及Anthropic与音乐出版商之间的法律纠纷中，Anthropic的一名律师被迫向法庭道歉，原因是在案件陈述中使用了由Anthropic的人工智能助手Claude生成的错误引用。根据上周四提交给北加州法院的一份文件显示，这个引用不仅标题有误，作者信息也不准确。Anthropic在文件中指出，尽管团队进行了手动核查，但未能发现这些由Claude造成的多个错误。 这起纠纷的背景在于，多家音乐出版商，包括环球音乐集团（Universal Music Group），正在起诉Anthropic，指控其不当使用受版权保护的音乐材料来训练Claude这一AI模型。本周早些时候，音乐出版商的律师指责Anthropic的专家证人Olivia Chen在她的证词中使用Claude引用了虚假的文章。为此，联邦法官Susan van Keulen命令Anthropic回应这些指控。 Anthropic在文件中解释，这一错误是由“善意的引用失误，而非故意伪造权威”。公司对此表示歉意，并强调这是一个人为疏忽，不是故意欺骗法庭。然而，这一事件再次引发了人们对利用AI辅助法律工作时可能会出现的问题的担忧。 事实上，这不是第一次AI模型在法庭上的表现令人失望。就在几天前，加利福尼亚州的一名法官批评了两家律师事务所提交的“虚假AI生成研究”。今年1月份，一名澳大利亚律师因使用ChatGPT准备法律文件而被发现引用了错误的信息。这些问题揭示了当前使用的AI工具仍存在显著缺陷，特别是在生成和引用专业文献方面。 不过，这些技术失误并不影响投资者对AI法律市场的热情。据报道，Harvey这家使用生成式AI帮助律师工作的初创公司正寻求新一轮融资，估值超过50亿美元，计划筹集的资金超过2.5亿美元。这表明尽管存在挑战，自动化法律工作的前景仍然具有巨大的吸引力。 业内人士认为，虽然AI在法律行业的应用潜力巨大，但目前还需要更加严格的质量控制措施。AI工具的准确性问题可能会在未来的诉讼中成为重要的争议点，这要求开发者和用户在使用AI时必须更加谨慎。与此同时，这也凸显了AI在提高工作效率方面的优势，尤其是在文档处理和初步研究方面。然而，人类律师的专业判断仍然不可或缺，AI应被视为辅助工具而不是替代品。