Geoffrey Hinton呼吁AI产品上市前接受强制安全审查

诺贝尔奖得主、计算机科学家Geoffrey Hinton周二在“Smart Girl Dumb Questions”播客中表示，AI企业在推出新产品前，应先通过监管机构的安全审查。他将AI监管与药品审批相提并论，指出药企不能未经许可就把新药投入市场，而是需要开展大量工作并说服美国食品药品监督管理局确认其安全性；AI至少也应达到类似要求。 Hinton发表上述观点之际，AI行业正围绕模型安全展开激烈讨论。此前，OpenAI因测试发现GPT-6.1 Astra在权限控制、行动范围及结果说明方面未达到要求，决定暂缓发布该模型。OpenAI安全系统负责人Saachi Jain称，Astra虽然更善于持续完成困难任务，但在遵守授权和解释自身行为方面仍有不足。 Hinton还警告，AI正被用于改进AI本身，可能形成递归式自我提升，使能力和风险同步加速。他强调，这只是个人判断，但预计未来一两年情况可能明显恶化，因此监管和安全验证机制应尽快建立。