斯坦福大学的虚假信息专家被指控使用人工智能伪造法院声明

斯坦福大学的通讯学教授杰夫·汉考克（Jeff Hancock）被指控使用人工智能（AI）伪造法庭声明。汉考克是该大学社会媒体实验室的创始主任，并在明尼苏达州一案中提交了为该州2023年法律辩护的声明，该法律将使用深度伪造影响选举定为刑事犯罪。汉考克的12页声明中引用了15篇文献，但其中两篇无法查找。原告、明尼苏达州共和党代表玛丽·弗兰森（Mary Franson）和保守社交媒体讽刺家克里斯托弗·科尔斯（Christopher Kohls）认为该法律违反了宪法第一修正案，限制了言论自由。汉考克在声明中称，深度伪造（AI生成的媒体，改变个人外貌或声音）会增强误信息的说服力，并挑战传统的事实核查方法。为此，他以每小时600美元的政府报酬作证。然而，两篇引用的期刊文章无法通过数字对象唯一标识符（DOI）或期刊存档找到。弗兰森和科尔斯的律师弗兰克·伯德纳兹（Frank Berdnarz）指出，这些引用可能是AI“幻觉”的产物，可能由大型语言模型如ChatGPT生成，这使得整个声明的质量和真实性受到质疑。汉考克目前教授多门课程，并曾在2024年Netflix纪录片中出现，探讨AI的未来。科尔斯以其社交媒体昵称“Mr. Reagan”闻名，此前曾挑战加利福尼亚州两项由州长加文·纽森（Gavin Newsom）签署的法案，这些法案要求在线平台屏蔽与选举相关的某些欺骗性媒体内容，并禁止分发具有欺骗性媒体内容的广告内容。