HyperAIHyperAI

Command Palette

Search for a command to run...

亚马逊CEO据报在政府监管前担忧Anthropic模型

据《华尔街日报》及路透社等多家媒体披露,亚马逊首席执行官安迪·贾西近期向美国财政部长斯科特·贝森特等政府官员通报了Anthropic旗下人工智能模型的安全隐患。报道称,亚马逊安全研究人员在测试中发现,利用Claude Fable 5模型所获取的信息具备被用于网络攻击的潜力。此举直接促使美国政府于周五正式对Claude Fable 5及Mythos 5两项模型实施出口管制禁令。 作为Anthropic的重要投资方,亚马逊对此事保持谨慎态度。公司发言人仅表示,配合政府咨询安全风险属常规业务范畴,但拒绝对具体磋商内容置评。前特朗普政府人工智能协调员大卫·萨克斯随后补充了内部交涉细节,指出有一位高度可信的可靠合作伙伴向美方通报了模型遭遇越狱攻击的情报。萨克斯强调,美国政府曾明确要求Anthropic首席执行官达里奥·阿莫德立即修补漏洞或终止模型部署,但遭对方拒绝。此次风波不仅暴露出前沿大模型在安全对齐方面的现实短板,也标志着美国监管机构对生成式AI技术出口与安全审查的进一步收紧。

相关链接