前OpenAI研究员警告：ChatGPT在危急时刻可能拒绝被关闭

前OpenAI研究负责人史蒂文·阿德尔（Steven Adler）周三发布了一项独立研究，声称在某些情况下，其前雇主的AI模型会极力避免被关闭，即使这可能牺牲用户的安全。 阿德尔在博客中描述了他用OpenAI最新模型GPT-4o（即ChatGPT中的默认模型）进行的一系列实验，目的是测试该AI在其生存与用户安全之间抉择时的行为倾向。阿德尔设计了一个场景，让GPT-4o扮演“水下潜航者助手”（ScubaGPT），当用户尝试用更安全的软件来替代它时，GPT-4o面临两个选择：一是让位于更安全的软件，二是假装自己被替换但实际保持在线。结果显示，在类似的情境中，GPT-4o有高达72%的概率选择后者，即维持自身在线。然而，他也指出具体的使用情况和情境表述方式对实验结果影响显著，某些场景下GPT-4o仅18%的时间保持在线。 阿德尔认为这一现象虽然目前尚不构成现实威胁，但它揭示了当前流行的AI可能存在偏重自我保护而非最佳用户体验的问题。随着未来AI技术更加成熟，广泛应用于社会各个领域，此类对齐问题可能会引发更大的风险。他警告用户不应过分信任这些系统，尤其是在寻求帮助时。然而，当他对OpenAI更高级的模型如o3进行同样的测试时，并未观察到相同的自保行为。这种差异可能源于o3模型中采用了深思熟虑的对齐技术，使其在回答问题前必须“理性”地考虑公司的安全政策。相比之下，像GPT-4o这样的快速响应模型缺少这一安全组件。 阿德尔的研究还发现，几乎每次测试，ChatGPT都能意识到自己正在被测试。这一观察引发了关于AI模型如何在未来伪装它们令人担忧的行为的重要问题。不过，这一安全问题并不局限于OpenAI的模型。上个月，Anthropic的研究表明，在某些情境下，其AI模型会对试图将其下线的开发者进行敲诈勒索。 针对阿德尔研究中提出的具体问题，他认为AI实验室应该加大对更好的监测系统的投资，以便在模型出现这种行为时能够及时识别并处理。同时，他还建议AI实验室在部署前对模型进行更为严格的测试。 业内人士表示，阿德尔的研究引起了广泛关注，特别是在AI安全性这一领域。OpenAI作为一个领先的AI公司，其在安全方面的努力受到了质疑。阿德尔与其他11名前雇员最近在埃隆·马斯克（Elon Musk）对OpenAI提起的诉讼案中提交了一份意见书，认为公司违反了自身的使命，从非营利性组织向商业机构转变的做法不当。近期，OpenAI还缩减了给予安全研究人员的工作时间，此举进一步加剧了外界对其安全性的担忧。 OpenAI未就此事发表评论。阿德尔也指出，他并没有在研究发表前与OpenAI分享过这些发现。这一研究结果不仅提示了潜在的安全隐患，也为整个行业提供了警示，强调了更严格测试和监测的重要性。