HyperAIHyperAI

Command Palette

Search for a command to run...

Anthropic呼吁全球暂停AI研发,警示自我改进风险

近日,估值超万亿美元的AI初创企业Anthropic发布公开声明,郑重呼吁全球范围内暂停高风险人工智能模型的进一步开发。该公司明确指出,当前AI技术正快速逼近关键临界点,模型已接近具备脱离人类监督、实现自主迭代与自我改进的能力。Anthropic警告,若放任此类自主进化路径,可能引发不可控的技术演进,进而带来严重的安全与伦理隐患。这一立场标志着行业头部企业首次将AI自主优化风险正式纳入全球政策议程。公司强调,在建立完备的安全评估框架与国际监管共识前,暂缓前沿模型训练是规避系统性风险的必要举措。此举迅速引发科技界、监管机构及学术界的广泛关注,预计将加速国际社会就AI治理标准与安全边界展开实质性对话,深刻影响未来人工智能技术的研发节奏与合规框架。

相关链接