机器学习中的公平性：治理原则 - Vector人工智能研究所

本文聚焦于机器学习中的公平性问题，强调其在ML模型风险管理中的关键作用。文章指出，随着各行业和领域越来越多的决策自动化，确保决策公平成为亟待解决的难题。公平的定义因场景而异，但核心在于避免对受保护群体的歧视，如种族、性别、宗教等。历史数据中的偏见、数据收集过程中的采样问题、模型设计中的算法偏见以及特征间的相关性等都是导致偏见的主要原因。例如，历史数据中的“红线”划区实践可能使ML系统延续不公平的信贷评估。此外，即使移除了敏感特征，模型仍可能通过非敏感特征推断出敏感信息，导致偏见。 文章建议组织在ML使用中采取以下措施：1. 根据用例需求制定公平标准；2. 在ML pipeline的每个阶段优先考虑公平性；3. 邀请多元化的利益相关者参与模型设计和监控；4. 在高风险场景中引入人工干预，确保模型决策的公正性。总之，公平性是负责任地部署ML技术的关键要素，需从构思到监控的整个过程中贯彻落实。