Anthropic Claude文本水印引发科技界担忧

人工智能实验室Anthropic宣布，自8月2日起，其旗下Claude模型将在输出的文本中嵌入不可察觉的水印。该举措旨在履行欧盟人工智能法案合规义务，并顺应生成式AI内容标识的行业趋势。然而，技术落地迅速引发科技界广泛争议。 争议焦点集中于检测权限与内容判定边界。科技投资者比尔·古尔利担忧初期仅Anthropic掌握检测密钥，可能形成事实上的裁判垄断。公司对此回应，将推出免费第三方API以供查验。针对开发者关于轻度润色或翻译文本被误判的顾虑，Anthropic澄清水印仅标示内容曾由Claude处理，绝不改变文本原意与可读性。此外，前微软高管史蒂文·辛诺夫斯基等人亦对数据隐私留存及AI协同创作的版权归属提出警示。 尽管面临质疑，该方案亦被视作提升生态透明度的必要一步。业界指出，水印能有效阻断AI系统吞噬自身生成数据导致的模型退化问题，并为公众提供内容溯源依据。随着谷歌、OpenAI及社交媒体平台相继跟进同类技术，AI内容标识正加速成为数字信息基础设施的标准配置。