HyperAIHyperAI
Back to Headlines

مختبرات تكشف عن ثغرة أمنية كبرى في أنظمة مراقبة الحمض النووي بسبب الذكاء الاصطناعي

منذ 5 أيام

人工智能在蛋白质设计领域的迅猛发展,正带来前所未有的科学机遇,也暴露出严峻的生物安全挑战。近日,由微软牵头,联合国际生物防护和生物安全科学倡议、Twist Bioscience、Integrated DNA Technologies、Aclid公司及英国伯明翰大学等机构组成的跨领域团队,在《科学》杂志发表研究成果,揭示了当前生物安全筛查系统面临的一个重大“零日漏洞”。 研究团队采用红队演练策略,模拟潜在恶意行为者利用开源AI工具对72种已知高危蛋白质(如蓖麻毒素、肉毒杆菌毒素)进行“伪装”改造。他们借助ProteinMPNN、EvoDiff-MSA和EvoDiff-Seq等AI模型,生成超过7.6万个结构相似但序列差异显著的合成变体,旨在保留原始毒性功能的同时,规避现有筛查系统识别。 这些变体虽未实际合成,但通过OpenFold等结构预测工具进行模拟评估,结果显示,4种主流生物安全筛查系统对这些“伪装”蛋白的漏检率高达30%至70%。原因在于,这些系统依赖“序列比对”策略,仅能识别与已知危险序列高度相似的DNA片段,而AI生成的变体虽功能相似,但基因序列已发生显著改变,从而成功“隐身”。 这一发现揭示了一个关键风险:人工智能可高效生成“结构未变、序列已改”的新型有害蛋白,绕过当前以“已知序列匹配”为核心的防护机制,使DNA合成服务面临被滥用的威胁。 面对这一漏洞,研究团队迅速行动,与多家DNA合成公司合作,开发并部署了新型筛查“补丁”。通过引入结构相似性评估、动态阈值调整和更精细的威胁分类机制,系统平均漏检率降至3%,部分系统甚至低于1%。这一成果标志着生物安全防护从被动响应向主动防御的转变。 然而,研究也指出,现有系统仍无法100%识别所有高危变体。部分漏报源于AI生成序列与天然无害蛋白的相似性,或因专家对某些蛋白是否属于“威胁”存在分歧,亦或训练数据存在偏差。这表明,未来需建立更智能、可定制的筛查框架,并制定统一的生物威胁分级标准。 该研究不仅验证了AI在生物安全领域带来的真实风险,更展示了跨行业协作在应对新兴威胁中的关键作用。微软首席科学官埃里克·霍维茨强调,此次行动复刻了网络安全领域的“零日漏洞”响应流程,体现了科学界对技术伦理与安全防护的前瞻性布局。 尽管技术仍在演进,但此次成果为构建更具韧性、适应性强的网络生物安全体系奠定了坚实基础。随着AI能力持续增强,唯有不断升级防护机制,才能确保科技创新在安全轨道上前行。

Related Links