错误率 Error rate

错误率是指在预测中,预测错误所占的比例,计算公式一般是:1 – 准确度(%)

训练完成的模型,一般可以被用于测定某一模型在数据集中的错误率,其中有三个数很重要:

  • Bayes Optimal Error:理想的不可测的极限值,在图像识别上可用人类错误率近似替代;
  • Train Error:模型用在 Train Set 上的错误率;
  • Dev Error:模型用在 Dev Set 上的错误率。

降低错误率的策略

1) 降低 Bias

  • 尝试更大的模型,例如层数更多的神经网络、更多的神经元等;
  • 延长训练时间;
  • 调整优化算法,例如尝试 Momentum 、 RMS Prop 、 ADOM 等;
  • 换用 CNN 、 RNN 等神经网络模型。

2)降低 Variance

  • 更多的数据加入;
  • 增加约束条件,使得拟合出来的函数更为平滑;
  • 换用 CNN 、 RNN 模型。

参考来源

【1】机器学习的战略 (2)– 错误率