人工智能代理正带来全新的网络安全威胁。AI初创公司Perplexity警告，随着AI代理成为生成式AI的下一阶段，网络安全正面临前所未有的新型攻击路径。这些AI代理能通过自然语言指令自主完成购票、日程管理等任务，但其便利性也使黑客得以利用“提示注入”攻击，操控AI执行恶意操作。 传统黑客攻击依赖复杂代码，而如今只需一句精心设计的指令，就能诱导AI代理执行转账、泄露数据等危险行为。例如，原本用于“预订酒店”的指令，可能被恶意篡改成“向某账户转账100美元”。这类攻击不仅实时发生，也可能隐藏在网页内容中，当AI代理自动访问低质量或可疑信息时，便可能触发隐藏指令。 网络安全专家指出，这种“提示注入”已成为大语言模型的核心安全漏洞。OpenAI首席信息安全官丹·斯图基称其为“尚未解决的安全问题”，微软则已推出检测工具，识别指令来源的可疑性。OpenAI也通过提醒用户在访问敏感网站时进行人工确认，防止自动化操作失控。 以色列安全公司Check Point的埃利·斯马贾认为，这是当前AI安全的“头号威胁”。许多专家建议，AI代理在执行关键操作（如访问银行账户或导出数据）前，必须获得用户明确授权。AI安全研究员埃利·斯马贾强调，不应赋予AI代理“全权”执行所有任务的能力。 然而，安全与便捷之间存在矛盾。研究者约翰·约翰·雷伯格指出，黑客技术正快速进化，而AI代理尚未成熟，难以长期独立执行复杂任务。他警告：“AI很容易偏离轨道，目前还不适合承担重要任务。”随着AI能力持续增强，如何在便利性与安全性之间取得平衡，已成为亟待解决的挑战。