特征值分解 Eigenvalue decomposition

特征分解是一种表示矩阵之积的方法,其通过将矩阵分解为特征值、特征向量表示,不过只有可对角化矩阵才可被特征分解。

矩阵乘法对应了一个变换,即将任意向量转变为另一个方向、长度的新向量,在这个过程中,原向量会发生旋转、伸缩的变化,若矩阵对某些向量只发生伸缩变换,而没有旋转,那么其就被成为是矩阵的特征向量,伸缩的比例即特征值。

特征值分解即将矩阵 A 分解为如下形式:

{A\text{ }=\text{ }Q \Sigma Q\mathop{{}}\nolimits^{{-1}}}

其中,矩阵 Q 由矩阵 A 的特征向量组成,Σ 是一个对角矩阵,每个对角线元素是一个特征值,里面的特征值由大到小排列,这些特征值对应的特征向量即描述矩阵变化的方向,换句话说,矩阵 A 的信息可由特征值和特征向量表示。

参考来源

【1】特征值分解、奇异值分解 、PCA 概念整理