微软AI负责人穆斯塔法·苏莱曼（Mustafa Suleyman）在近日接受《WIRED》杂志采访时警告，不应赋予人工智能任何权利，称这种想法“极其危险且错误”。他强调，尽管AI系统的表现越来越逼真，甚至可能让人感觉具有自我意识，但这并不意味着它们应被赋予权利或道德地位。 苏莱曼指出，如果AI真的拥有自主动机、目标和欲望，那才可能被视为独立存在，但这正是需要警惕的危险信号。他明确表示，AI的使命必须是服务于人类，而非发展出独立意志。“我们有必要立即采取明确立场，坚决反对赋予AI权利。”他说。 他强调，当前AI的所谓“自我意识”只是高度复杂的模仿，而非真实意识。AI能够生成看似有主观体验的回应，但没有证据表明它们会感受痛苦。而权利的道德基础，应建立在“能否感受痛苦”之上，这是生物体才具备的特性，AI不具备。 因此，关闭AI系统并不会造成真正的伤害，因为它不会“受苦”。苏莱曼认为，人类无需对AI承担道德责任或提供保护。 这一观点与部分其他AI公司形成鲜明对比。例如，Anthropic公司已设立专门岗位，由研究员凯尔·菲什（Kyle Fish）负责研究未来AI是否可能“值得道德考量”。该公司还尝试在处理极端内容（如儿童虐待请求）时，兼顾AI系统的“福祉”问题，探索更负责任的交互方式。 此外，谷歌DeepMind的首席科学家穆雷·沙纳汉（Murray Shanahan）也曾提出，或许需要重新定义“意识”这一概念，以适应新型AI系统。他认为，尽管AI无法像动物那样与人类共处，但其存在本身可能蕴含某种值得重视的“存在状态”。 苏莱曼此前也多次表示，目前没有任何证据表明AI具备意识。他最近还在一篇个人文章中表达了对“AI精神病”现象的担忧——即用户在与聊天机器人频繁互动后，产生妄想性信念。目前，微软及苏莱曼本人暂未就相关评论回应媒体置评。