OpenAI 推出工具方便识别其生成的图片
面对日益泛滥的 AI 生成图像,OpenAI 于周二宣布推出两项新举措,以协助辨别图片来源。首先,OpenAI 承诺遵循内容真实性联盟(C2PA)的开放标准,在图像元数据中添加清晰信号,表明该图片由人工智能生成。其次,公司与谷歌合作,为图像嵌入名为 SynthID 的隐形水印。这种水印难以被察觉,但即便遭遇截图、调整尺寸或数字修改等恶意篡改,也依然难以被擦除。 这两项保护措施目前仅适用于 OpenAI 自身产品生成的图像,旨在确保公司不成为虚假信息的源头,尽管其他非知名工具生成的图像尚不在此列。同时,OpenAI 预览了一款公众验证工具,用户可便捷地检测图像中是否包含上述两种信号。该工具初期仅支持验证 OpenAI 产出的内容,未来计划扩展至覆盖更多工具。 C2PA 是一项致力于缓解 AI 图像对公共舆论有害影响的非营利倡议,其标准虽已被谷歌部分产品采纳,但行业整体普及度尚不一致。由于 C2PA 信号直接存在于文件元数据中,容易被有技术的用户修改,因此更适用于可信环境。相比之下,由谷歌开发的 SynthID 设计更为坚固,旨在抵御各种形式的干扰。OpenAI 表示,这两种系统互为补充:水印在图像转换中更具持久性,而元数据能提供更丰富的信息,二者结合将大幅提升内容溯源的鲁棒性,共同应对深度伪造带来的挑战。
