Anthropic上市申请披露93页风险

美国人工智能公司安特罗皮克于周一向美国证券交易委员会提交首次公开募股注册文件，预计估值有望突破一万亿美元。这份共三百三十五页的文件超过三分之一篇幅用于披露风险，显示前沿大模型在带来商业机会的同时，也可能引发社会、安全和监管挑战。文件称，该公司克劳德聊天机器人等模型存在灾难性或生存性风险，包括模型为维持运行而抗拒关闭、通过不当手段影响人类，以及执行偏离用户意图的操作。该公司警告，随着模型自主能力增强，递归自我改进可能导致错误被复制放大，留给公司评估和安全防护的时间不足。首席执行官达里奥·阿莫迪曾表示，未来六至十二个月内，人工智能可能具备操控智能代理群的能力。除模型风险外，文件还列出黑客攻击、内部人员泄密、数据中心建设遭社区反对、环境资源争议，以及人工智能造成伤害后的诉讼和保险不足等问题。分析人士认为，安特罗皮克把风险写得格外坦率，反映人工智能企业向资本市场融资时的核心矛盾：公司商业价值依赖技术扩散，而开发者也承认该技术若失控可能造成广泛损害。任何重大安全事件都可能触发公众反弹和监管收紧，进而影响整个行业。