特征分解是一种表示矩阵之积的方法,其通过将矩阵分解为特征值、特征向量表示,不过只有可对角化矩阵才可被特征分解。
矩阵乘法对应了一个变换,即将任意向量转变为另一个方向、长度的新向量,在这个过程中,原向量会发生旋转、伸缩的变化,若矩阵对某些向量只发生伸缩变换,而没有旋转,那么其就被成为是矩阵的特征向量,伸缩的比例即特征值。
特征值分解即将矩阵 A 分解为如下形式:

其中,矩阵 Q 由矩阵 A 的特征向量组成,Σ 是一个对角矩阵,每个对角线元素是一个特征值,里面的特征值由大到小排列,这些特征值对应的特征向量即描述矩阵变化的方向,换句话说,矩阵 A 的信息可由特征值和特征向量表示。
参考来源
【1】特征值分解、奇异值分解 、 PCA 概念整理