HyperAI超神经

奇异值分解 Singular Value Decomposition

奇异值分解是一种矩阵分解方法,对称阵特征向量分解的基础是谱分析,奇异值分解则是谱分析理论在任意矩阵上的推广。

理论表述

假设 M 是一个 m×n 阶矩阵,其中的元素全部属于域 K,也就是实数域或复数域。如此则存在一个分解使得 M = UΣV* ,其中 U 是 m×m 阶酉矩阵;Σ是 m×n 阶非负实数对角矩阵;而 V*,即 V 的共轭转置,是 n×n 阶酉矩阵,这样的分解就称作 M 的奇异值分解,Σ 对角线上的元素 Σi,i 即为 M 的奇异值。

在矩阵 M 的奇异值分解中 M = UΣV*

  • V 的列(columns)组成一套对 M 的正交” 输入” 或” 分析” 的基向量。这些向量是 M*M 的特征向量。
  • U 的列(columns)组成一套对 M 的正交” 输出” 的基向量。这些向量是 MM* 的特征向量。
  • Σ对角线上的元素是奇异值,可视为是在输入与输出间进行的标量的” 膨胀控制” 。这些是 MM*  及 M*M 的特征值的非负平方根,并与 U 和 V 的行向量相对应。

图形表示与几何意义

奇异值分解可看作矩阵的三个分解步骤:旋转 Vt 、伸缩 Σ 、再旋转 U

奇异值分解应用

  • 求广义逆阵
  • 给出矩阵的列空间、零空间和秩的表示
  • 求矩阵近似值
相关词:酉矩阵、谱分解
父级词:矩阵分解