替代损失函数通常在损失函数不便计算时使用，若最优化代理损失函数，则同时优化了原损失函数，即校对性 Calibration 或一致性 Consistency，这个性质与原损失函数相关。
若替代损失函数是凸函数，且在 0 点可导，那么在导数小于 0 的情况下具有一致性，这也是通常选用凸函数作为损失函数的原因。
常见替代函数
- Hinge 损失：f ( x ) = max ( 0 , 1-x )
- 指数损失函数：f ( x ) = exp ( – x )
- 对数损失函数：f ( x ) = log ( 1 + exp ( -x ))
相关词：代替函数、损失函数