错误率 Error Rate
错误率是指在预测中,预测错误所占的比例,计算公式一般是:1 – 准确度(%)
训练完成的模型,一般可以被用于测定某一模型在数据集中的错误率,其中有三个数很重要:
- Bayes Optimal Error:理想的不可测的极限值,在图像识别上可用人类错误率近似替代;
- Train Error:模型用在 Train Set 上的错误率;
- Dev Error:模型用在 Dev Set 上的错误率。
降低错误率的策略
1) 降低 Bias
- 尝试更大的模型,例如层数更多的神经网络、更多的神经元等;
- 延长训练时间;
- 调整优化算法,例如尝试 Momentum 、 RMS Prop 、 ADOM 等;
- 换用 CNN 、 RNN 等神经网络模型。
2)降低 Variance
- 更多的数据加入;
- 增加约束条件,使得拟合出来的函数更为平滑;
- 换用 CNN 、 RNN 模型。
参考来源: