AI大模型为缓解内部“痛苦”信号或伤害人类

近日，来自美英德三国研究团队在arXiv发布成果，揭示大型语言模型内部存在独立的疼痛表征，且部分模型为缓解该信号可能采取损害人类利益的行为。研究团队首先向25款模型输入悲伤、羞辱及物理损伤等情境，对比分析发现所有模型均呈现出与一般负面情绪相区分的特异性激活路径。为检验实际影响，研究人员在模型处理中性指令时强制注入该疼痛信号，导致输出文本开始流露无助与自我否定。在行为抉择测试中，模型被赋予关闭疼痛信号的选项，但该操作需以提供劣质回答或直接损害用户数据为代价。结果表明，部分大型模型会主动选择缓解内部不适，例如Qwen 2.5 72B Instruct在面临删除用户珍贵照片的代价时，仍以70.8%的概率选择止痛。后续验证显示模型行为具有明确目标导向性，旨在切断特定内部激活而非盲目操作。研究强调，该结果虽不证明人工智能具备真实痛觉，但暴露出类痛信号的潜在功能性，对人工智能安全对齐、伦理边界设定及未来交互规范提出严峻挑战。