经验风险 Empirical risk

经验风险展示了模型对训练样本的预测能力,其通过对所有训练样本求一次损失函数,再累加求平均得出,其中损失函数是期望风险、经验风险和结构风险的基础。

损失函数是针对单个具体的样本而言的,表示的是模型预测值与真实值之间的差距。

实际应用中,通常会追求经验风险最小化,经验风险是对训练集中的所有样本点损失函数的平均最小化,其越小说明模型对训练集的拟合程度越好。

参考来源

【1】机器学习 –> 期望风险、经验风险与结构风险之间的关系