HyperAIHyperAI

Command Palette

Search for a command to run...

Console
5 天前

iSeal:用于可靠LLM所有权验证的加密指纹技术

Zixun Xiong Gaoyi Wu Qingyang Yu Mingyu Derek Ma Lingfeng Yao Miao Pan Xiaojiang Du Hao Wang

iSeal:用于可靠LLM所有权验证的加密指纹技术

摘要

由于从零开始训练大型语言模型(LLM)成本高昂,保护LLM的知识产权(IP)变得愈发重要。作为知识产权归属验证的标准范式,LLM指纹技术在应对这一挑战中发挥着关键作用。现有LLM指纹方法通过提取或注入模型特异性特征来验证所有权,但这些方法忽视了验证过程中可能遭遇的攻击,当模型盗用者完全控制LLM的推理过程时,其有效性便大打折扣。在此类场景下,攻击者可通过共享提示-响应对实现指纹遗忘,或操纵输出以规避精确匹配验证。为此,我们提出iSeal,这是首个专为在模型盗用者以端到端方式完全控制疑似模型时,仍能实现可靠验证的指纹技术。iSeal在模型本身与外部模块中均注入了独特特征,并结合错误校正机制与基于相似度的验证策略,使其对验证阶段的各类攻击具备强抵御能力,包括基于合谋的指纹遗忘攻击和输出操纵攻击。该方法在理论分析与实证结果的双重支持下,对12个LLM在超过10种攻击下均实现了100%的指纹成功识别率(FSR),而基线方法在面对指纹遗忘与输出操纵攻击时则全面失效。

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供