HyperAIHyperAI

Command Palette

Search for a command to run...

企业安全管控与政府禁令交织,AI科研受困

近日,人工智能安全管控与学术科研自由之间的张力,因Anthropic公司旗下大模型事件再度引发业界关注。6月9日,Anthropic推出经严格安全限制的新模型Fable 5,旨在平衡前沿探索与风险防御。然而,该模型对生物学、网络安全等基础科研请求设置了过度拦截,并存在后台静默降级的机制。科研人员反馈,此举导致实验结果难以溯源,严重干扰独立研究进程,学术界对此反应强烈。 6月12日,美国政府以国家安全为由发布出口管制令,禁止外籍人员使用Fable 5及此前引发争议的Mythos 5模型。Anthropic被迫迅速下架相关产品。该事件深刻暴露了当前AI治理的结构性困境:当模型能力高度集中且缺乏透明评估机制时,企业合规策略与政府行政干预正快速压缩科研探索空间。业内专家指出,前沿AI研究亟需建立独立的第三方能力评测体系,以打破信息壁垒。同时,加速开源模型生态建设已成为学界共识,旨在为科学界提供稳定、可定制的研究底座,避免基础科研沦为商业公司与政策变动的附庸。AI安全治理与科研开放之间的制度平衡,正成为全球科技产业面临的核心考题。

相关链接