HyperAIHyperAI

Command Palette

Search for a command to run...

OpenAI 推出新工具便于核查图像是否由其模型生成

随着生成式媒体日益普及,辨别内容来源及是否被篡改变得至关重要。为此,Google 正扩展其内容透明度和验证工具,涵盖搜索、Gemini、Chrome、Pixel 手机及云平台,并与行业深化合作。自 2021 年推出 SynthID 数字水印技术以来,Google 已在数十亿图像、视频及数万年音频中嵌入了不可察觉的信号。如今,Pixel 手机成为首款在原生相机应用中提供 C2PA 内容凭证的设备,该标准将记录媒体是如何创建和修改的,无论是否涉及人工智能。 C2PA 内容凭证是一种行业通用标准,可清晰展示文件的创作与修改历史。Pixel 系列手机将把此项技术从图像扩展至视频。同时,Google 在 Gemini 应用中新增了对 SynthID 和 C2PA 凭证的验证功能,用户可直接询问“这是 AI 生成的吗”来查询图像来源。这些功能正逐步向搜索和 Chrome 浏览器 rollout。 值得注意的是,OpenAI 于周二宣布了两项新措施以应对虚假信息挑战。OpenAI 承诺采用 C2PA 标准,在元数据中添加明确信号,并计划与 Google 合作集成 SynthID 隐形水印。后者旨在即使经过截图、缩放或数字修改等恶意操作后仍能留存。这两种技术互补,C2PA 提供丰富的元数据信息,而 SynthID 在变换中更具耐久性。OpenAI 的验证工具目前仅覆盖其产品生成的图像,未来计划扩展至其他工具。尽管这些举措有助于提升可信度,但行业内的 Adoption 仍不均衡,且元数据可能被恶意篡改,因此主要依赖可信用户的使用场景。

相关链接

OpenAI 推出新工具便于核查图像是否由其模型生成 | 热门资讯 | HyperAI超神经