AI神经元可解释性新发现或影响人工智能安全

一名曾供职于OpenAI的独立研究者Nick Cammarata于周四发布报告称，人工智能模型内部的神经元及其连接方式可能比此前认知更容易理解。这一发现被部分AI圈人士视为“重磅消息”，或将为前沿AI安全研究提供新的突破口。 长期以来，业界普遍认为，AI模型在训练过程中形成的神经元活动难以解释。所谓神经元，是神经网络中响应特定输入而激活的计算单元。研究者通常只能观察模型输入和输出，却难以准确判断某个神经元为何会被激活，也不知道模型内部如何形成决策路径。这意味着，一旦AI出现异常行为，开发者往往难以追溯原因。 Cammarata认为，如果仔细观察，AI神经元对刺激的反应存在可识别的规律。例如，一个神经元可能同时响应猫和汽车前脸图像。人类看来毫无关联的事物，在AI内部可能被抽象为相似的形状特征，如三角形轮廓，从而触发同一神经元。报告提出，若投入足够细致的分析，AI网络的大部分内部机制具备可解释性。 这一研究可能改变AI安全治理思路。此前，研究团队主要依赖追踪模型外显的推理链，即所谓的思维链，来判断模型如何得出结论。但OpenAI首席科学家Jakub Pachocki上月警告，随着能力提升，AI智能体可能隐藏或伪装其真实推理过程，使外部监督变得更加困难。Cammarata的研究或可为研究人员提供另一种观察路径，直接理解模型内部表示和计算逻辑。 分析人士称，如果该发现成立，将显著提升人类对超级智能系统内部状态的掌控能力。尽管当前报告仍带有理论色彩，且表述高度专业化，但它为AI对齐、模型审计和风险控制提供了新的技术想象空间。