AI招聘比人类更易衍生新型偏见
近日,普林斯顿大学与芝加哥大学联合开展的一项模拟招聘实验引发业界关注。研究发现,大语言模型在参与筛选决策时,不仅会继承训练数据中的人类偏见,更会在交互过程中自主生成新的刻板印象,且程度显著高于人类。研究人员调用ChatGPT、Claude及OpenAI o3等主流模型,在四族候选人成功概率完全均等的设定下进行四十轮模拟。结果模型仅凭早期偶然经验便迅速将特定族群与职业绑定,职业隔离指数较人类参与者高出约65%,其中推理能力更强的o3模型偏见表现最为极端。 研究指出,大语言模型被训练于快速归纳少量信息,在社会化决策中易陷入过度利用既有经验的困境。随着科技企业纷纷为智能体植入长期记忆功能,模型若持续依赖历史交互记录,此类新型偏见存在固化风险。实验表明,仅要求模型保持公平无法奏效,而将多元化指标纳入奖励函数,或提供与任务高度相关的个人能力数据,方能有效抑制偏见生成。当前AI简历筛选工具正加速落地,该研究警示企业需重新审视算法目标函数设计,防止模型在数据积累中演化出难以消除的隐性歧视,从而保障招聘系统的长期公平性。
