表示定理 Representer Theorem

表示定理是统计学习中的一则定理,用于表明再生核 Hilbert 空间上正则化风险函数的最小值,可表示为在核函数的线性组合。

实际应用举例

在 L2 正则化问题上:

表示定理是指任意一个 L2 正则化的问题,其最佳 w* 都可以用 βn 与 Zn 线性组合得到。

表示定理的意义

  • 简化了正则化的经验风险最小化问题;
  • 将无限维最小化问题降低至搜索最优系数的三维向量,然后可以通过标准函数最小化算法求解;
  • 为一般机器学习问题推广到可实现算法提供理论基础。

相关词:线性组合、 L2 正则化