HyperAIHyperAI

Command Palette

Search for a command to run...

20 天前
生成式 AI

呼吁建立AI低质内容过滤机制

过去一年,YouTube、Meta、TikTok等主流平台加速推进AI生成内容标识认证,试图利用元数据嵌入与数字水印技术区分人机创作。然而,平台目前均未向用户提供主动过滤选项,仅依赖被动标签提示,致使大量低质AI素材仍充斥信息流。 就过滤功能诉求,谷歌、Meta与Spotify均未给出正面回应。目前仅有DeviantArt与Pinterest试点相关设置,但实际屏蔽效果不佳,标签覆盖亦不全面。现有溯源协议面临开源模型不内置水印、元数据易被剥离等漏洞,而基于算法的检测技术同样存在误判率高的问题。Instagram负责人Adam Mosseri与谷歌CEO Sundar Pichai近期均公开承认互联网平台AI低质内容泛滥,但平台多以防止误伤真人作品为由,拒绝开发深层过滤机制,其根本目的在于维持AI内容的流量收益。 业内分析指出,当前的标识体系多属应对监管的合规手段。面对审核成本攀升与技术瓶颈,平台若无法提供有效筛查方案,或将逐步转向认证真人创作者的推荐策略。在公众对内容真实性诉求日益强烈的背景下,科技巨头亟需摆脱表面合规的被动局面,尽快上线可靠的AI内容屏蔽或真人认证过滤器,以实质性解决信息生态失真问题。

相关链接