HyperAIHyperAI

Command Palette

Search for a command to run...

Anthropic 限制 Mythos 发布是为保护互联网还是自身?

Anthropic 本周宣布限制其最新模型“弥达斯”(Mythos)的发布,理由是它过于擅长发现全球用户依赖软件中的安全漏洞。与面向公众开放不同,该前沿实验室计划仅向亚马逊云科技、摩根大通等运营关键网络基础设施的大型企业和合作伙伴提供该模型。表面上看,这一举措旨在让大企业能利用先进大语言模型提前应对恶意攻击者,保障网络安全。OpenAI 也被报道在考虑类似计划。 然而,这一策略背后可能另有隐情。AI 安全实验室 Irregular 的首席执行官 Dan Lahav 指出,AI 发现的漏洞是否具有实际攻击价值,取决于其利用方式和组合情况,并非所有漏洞都致命。此外,AI 安全初创公司 Aisle 表示,它们已能用较小的开源模型复现弥达斯的大部分安全功能,这反驳了“弥达斯是终极安全模型”的说法。 更深层次的分析认为,限制发布可能意在构建商业壁垒。软件工程师、exe.dev 创始人 David Crawshaw 指出,这种做法通过仅向大型企业出售高端模型使用权,防止竞争对手利用知识蒸馏技术低成本训练类似模型。这实际上将高端技术锁定在企业级合同中,确保了主要收入来源,同时让依赖蒸馏的小型实验室处于劣势。 目前,人工智能领域正呈现两大趋势:一是前沿实验室竞相开发最强模型,二是像 Aisle 这样的公司依赖多模型协作和开源方案寻求经济优势。尽管弥达斯是否真的构成网络威胁尚需验证,但这种谨慎发布的方式确实被视为对互联网和 Anthropic 自身商业利益的双重保护。

相关链接

Anthropic 限制 Mythos 发布是为保护互联网还是自身? | 热门资讯 | HyperAI超神经