研究人员正通过“越狱”AI系统内部机制，揭示其安全防线的漏洞，以推动更可靠的AI防护体系。佛罗里达大学计算机与信息科学与工程学院（CISE）教授Sumit Kumar Jha及其团队发表的论文《越狱矩阵：基于零空间引导的可控模型劫持》，提出了一种全新的内部探测方法，旨在主动发现并修复大型语言模型（LLM）中的安全缺陷。 这项研究并非为了滥用AI，而是通过“内部拆解”方式，深入分析模型的决策路径，而非仅依赖外部提示词的巧妙操控。研究团队开发出名为“头掩码零空间引导”（HMNS）的技术，通过识别并暂时关闭模型中关键的“神经头”（即负责决策的核心组件），同时调整其他部分，观察系统输出如何变化，从而精准定位安全防线的薄弱环节。 该方法在Meta和微软的多个主流AI模型上测试，结果表明，HMNS在四项行业标准基准测试中均优于现有最先进攻击技术，不仅成功率更高，所需尝试次数更少，且效率显著。更重要的是，研究团队引入“计算感知报告”机制，综合考量攻击所消耗的算力，证明HMNS在更低算力下即可实现突破，更具实用性。 Jha强调，随着AI被广泛应用于医疗、金融等关键领域，仅靠外部测试无法确保安全。必须“掀开引擎盖”，深入系统内部检查潜在故障点。这项工作正是为了揭示AI系统在真实压力下的脆弱性，从而帮助开发者构建真正坚固的安全防线。 研究团队指出，该技术的最终目标并非制造威胁，而是通过系统性地分析防御失效的模式，为强化AI训练、监控与防护策略提供科学依据。论文已被2026年国际学习表征会议（ICLR 2026）录用，将在里约热内卢举行。这项工作标志着AI安全研究正从“表面测试”迈向“深度解剖”，为构建更可信的AI基础设施奠定基础。