麻省理工学院的一项新研究揭示了人工智能（AI）监督的复杂性和挑战。这项研究的核心人物是一群顶尖的研究人员，他们在探索如何有效监督比人类更智能的AI系统时，得出了一个令人不安的结论：即使采用最优监督策略，对这些超智AI的成功率也极低。 首先，研究表明，在通用智能差异（Δgeneral）较大时，多步骤监督可以显著提高监督的成功率。也就是说，当监督者的智能水平远低于被监督的AI时，通过多个层次的监督步骤，可以一定程度上弥补这种差距。然而，任务难度（Δdomain）是另一个重要因素。即使通用智能差异不大，如果任务本身对被监督者来说非常容易完成（Δdomain 很大），监督仍然会非常困难。这是因为中层步骤可能会给“囚犯”策略留下更多“自举”的空间，导致最终结果与预期偏离。 此外，研究团队还发现了一个有趣的现象：在某些情况下，增加通用智能差异反而会使监督更加容易。例如，在“Houdini有优势”的游戏倾向单一步骤时， 当通用智能差异小于任务本省难度的差异（Δgeneral < Δdomain）时，一步监督就是最佳解决方案；相反，增加步骤反而会降低成功概率。例如，当智能差异达到400 Elo点（这大约相当于GPT-4.o-latest和Gemini-1.5-Flash之间的差距）时，对于战争游戏Wargames而言，监督成功率降至约9.8%；对于黑帮游戏Mafia，成功率为约24%；对于后门代码Backdoor Code，成功率约为32%；而辩论游戏Debate表现最好，成功率为约51.4%。 随着智能差异的进一步扩大，成功概率将继续迅速下降。这就意味着，即使采用了最先进的NSO算法，在面对未来可能超出目前模型水平的高智能AI时，其监督成功率也可能低到让人不安。 研究团队坦言，这项工作尚存局限：所使用的监督游戏是简化的模拟；AI的“欺骗”行为是通过提示诱导而非真实训练产生的；NSO理论分析基于理想化的长假设计。 实验证明主要关注单步骤监督等问题。尽管如此，这项研究依然是AI安全领域迈出的重要一步，它从定性讨论转向定量分析，提供了一个有效的框架来评估不同监督策略的有效性，并展示了“可扩展监督”并不能解决所有问题。 业内人士认为，麻省理工学院的这一研究成果具有重大的警示意义，提醒我们在未来开发更高级AI的同时，需要投入更多的资源和精力在设计更加高效的监督机制上。麻省理工学院作为全球顶级的科研机构之一，在人工智能领域有着深厚的研究基础和广泛的影响。这一研究成果不仅为学术讨论提供了新的视角，也为AI伦理和安全的实际应用提出了重要的参考方向。