精确：如何训练你的准确性

分类任务通常以准确率（accuracy）作为评估指标。然而，准确率是不连续的，无法直接通过梯度上升法进行优化。目前主流方法通常最小化交叉熵、合页损失（hinge loss）或其他代理损失函数，但这可能导致次优结果。本文提出一种新的优化框架，通过在模型输出中引入随机性，并优化期望准确率（即随机模型的准确率），实现了对准确率的直接优化。在线性模型及深度图像分类任务上的大量实验表明，所提出的优化方法为广泛使用的分类损失函数提供了一种强有力的替代方案。