L2 正则化

$L_{2}$正则化，又称权重衰减，是一种应用于神经网络权重的正则化技术。通过在损失函数中加入权重的$L_{2}$范数惩罚项，形成新的损失函数$L_{new}(w) = L_{original}(w) + \lambda w^Tw$，其中$\lambda$控制惩罚强度，促使权重值减小。该方法有助于防止模型过拟合，提高泛化能力。权重衰减可以直接融入权重更新规则，而不仅仅是通过目标函数隐式定义。