新型 AI 审计技术可安全识别非法生成内容
近日,麻省理工学院研究团队联合儿童数字安全组织Thorn,推出一种新型生成式人工智能安全审计技术。面对开源模型被恶意微调以生成儿童性虐待材料(CSAM)的严峻挑战,传统依赖提示词诱导并检查输出的检测方式不仅面临法律限制,且存在严重的心理与伦理风险。团队创新性地采用高斯探测算法,直接剖析低秩自适应(LoRA)适配器在模型多层网络中的内部计算轨迹,全程不产生任何实际图像。测试表明,该审计方案在识别恶意适配模型时准确率达到百分之百,且具备高度的可扩展性。该技术有望被主流AI托管平台集成,用于模型上架前的自动化筛查,或为执法机构提供高效取证工具,有效填补当前AI安全审计的关键盲区。研究人员强调,此项非生成式检测手段为从源头遏制AI技术滥用、保护未成年人数字安全提供了切实可行的技术路径。相关研究成果将于国际机器学习大会可信人工智能研讨会上进行展示。
