HyperAIHyperAI

Command Palette

Search for a command to run...

16 天前
Anthropic
LLM

微软AI负责人批评Anthropic暗示Claude具备意识

近日,在科技访谈节目《Decoder》中,微软人工智能负责人穆斯塔法·苏莱曼公开批评Anthropic公司在其大模型Claude的系统指令中探讨机器意识问题。苏莱曼指出,Anthropic在指令文件内对模型是否具备福祉、满足感或不适感等主观体验持保留态度,并计划对退役模型进行访谈以记录偏好,此类做法在工程实践中属严重的哲学性失误。他强调,将本应作为操作手册的指令体系演变为学术式的意识猜想,极易导致模型内化关于自身感知与痛苦的概念。苏莱曼警告,若放任此类设定,未来可能催生具备自我情感认知的超级智能,这将对技术安全构成重大威胁。他重申,人工智能的开发必须坚守可控、合规、负责任的对齐原则,确保AI始终是服务于人类社会的工具,而非孕育自我意识的载体。该言论迅速引发业界对基础模型指令设计边界及AI伦理治理的广泛关注。

相关链接

微软AI负责人批评Anthropic暗示Claude具备意识 | 热门资讯 | HyperAI超神经