研究指出,弱AI监管或比无监管更不利安全
康奈尔大学与卡内基梅隆大学研究团队近日在《美国国家科学院院刊》发表论文,通过理论模型揭示人工智能安全监管的潜在影响。研究指出,若仅对应用通用大模型的下游企业设定较低的安全门槛,可能导致最终产品安全性低于无监管状态。其核心机制在于搭便车效应:通用模型开发商会借机削减安全审计等基础投入,将最终产品责任转嫁给下游开发者,从而拉低整体安全水平。 与之相对,研究团队发现对上下游企业同步设定明确的安全达标要求,能够构建监管的最优解。该模式通过确立清晰的责任边界,有效化解双方的合规不确定性,在显著提升终端产品安全性的同时,亦能通过降低试错风险提升商业利润。研究强调,人工智能技术呈现高度复杂的供应链特征,政策制定需摒弃单一主体视角,统筹考量全链条利益。该模型为应对当前监管碎片化现状提供了科学依据,未来研究将进一步纳入全球多标准竞争视角,助力前瞻理性的AI产业治理框架搭建。
