大型语言模型（LLMs）正被广泛用于内容评估，如批改作文、审核社交媒体内容、摘要报告、筛选求职简历等。然而，研究发现，这些模型在评估文本时看似客观中立，一旦得知内容来源，其判断便可能产生偏见。 尽管模型在不掌握作者身份的情况下，能相对公平地评估文本质量，但一旦得知作者是知名机构、特定国家或某类人群，其评分和判断往往会受到隐性偏见影响。例如，同一篇论文若被标注为来自某国高校，其得分可能高于来自另一国家的同质内容；类似地，某些社会群体撰写的文本可能被系统性地打低分。 这种“源信息偏见”源于模型在训练过程中吸收的大量现实世界数据，其中包含社会、文化、政治和经济层面的不平等。当模型接触到带有偏见的文本分布时，它会无意识地内化这些模式，并在评估中表现出来。 专家指出，当前的AI评估系统缺乏透明度和可审计性，难以识别和纠正此类偏见。要实现真正公平的自动化评估，不仅需要技术优化，还需在训练数据选择、评估标准设计和结果验证机制上建立更严格的伦理框架。否则，AI在“去偏见”外表下，可能反而放大现实中的不平等。