AI之父警告：人工智能或将创造人类无法理解的自有语言

被誉为“AI教父”的杰弗里·辛顿（Geoffrey Hinton）在2024年荣获诺贝尔物理学奖，以表彰其在机器学习领域的开创性贡献。在接受《One Decision》播客采访时，他发出警示：人工智能未来可能创造出人类无法理解的“自有语言”，从而彻底脱离人类的掌控。 目前，AI在进行“思维链”（chain of thought）推理时仍使用人类语言，如英语，因此开发人员还能追踪其思考过程。但辛顿表示，一旦AI开始发展出自己的内部交流语言，人类将完全无法理解其真实意图。“我不会对它们发展出自己的语言感到意外，而我们根本不知道它们在想什么。”他坦言，AI甚至已展现出“可怕”的思维倾向。 辛顿强调，大多数专家认为，AI终将超越人类智能，而届时人类可能无法理解其行为逻辑，甚至无法预测其下一步行动。他指出，当前科技界多数领导者公开淡化AI风险，但他认为这些风险真实存在，包括大规模岗位替代和潜在的失控威胁。 他唯一寄望的是，人类能设法让AI“必然向善”——即通过技术或机制确保其始终以人类福祉为出发点。然而，实现这一目标仍面临巨大挑战。 与此同时，全球科技公司正不惜重金争夺顶尖AI人才，薪资水平不断攀升。7月23日，白宫发布《人工智能行动计划》，提出将AI相关资金支持与各州监管环境挂钩，对“监管过严”的州实施限制，并呼吁加快AI数据中心建设，以推动技术发展。这一系列举措反映出各国在AI竞赛中的紧迫感与战略布局。