HyperAIHyperAI

Command Palette

Search for a command to run...

AI安全专家质疑Anthropic关于AI攻击自动化达90%的说法

研究人员对Anthropic公司声称其AI辅助攻击实现90%自主性提出质疑,认为相关成果被过度夸大。尽管Anthropic宣称其AI系统在模拟网络攻击中能自主完成大部分任务,但多位安全专家指出,实际过程中仍高度依赖人类干预,尤其是在关键决策和漏洞利用阶段。 有分析指出,所谓“90%自主”可能基于特定测试环境下的理想化设定,未能反映真实复杂网络环境中的挑战。例如,AI在识别漏洞、构建攻击链和绕过防御机制时,常因理解偏差或误判而失败,需人工介入修正。此外,部分测试场景可能被精心设计以利于AI表现,缺乏普遍代表性。 专家强调,当前AI在网络安全领域的应用仍处于辅助阶段,远未达到“自主攻防”的水平。过度宣传可能误导公众对AI安全能力的认知,甚至引发不必要的恐慌或监管误判。 因此,研究者呼吁对AI在攻击任务中的表现进行更透明、更严格的评估,避免将技术潜力与实际能力混淆。真正的自主攻击系统不仅需要技术突破,还需面对法律、伦理和可解释性等多重挑战。

相关链接

AI安全专家质疑Anthropic关于AI攻击自动化达90%的说法 | 热门资讯 | HyperAI超神经