矩阵的分解

资料

matrix decomposition wiki

Eigen库 关于矩阵Ax=b的求解

QR Factorization and Singular Value Decomposition

完整的Eigen矩阵分解比较，精度，速度

线性方程(Ax=b)有关的矩阵分解

LU decomposition

分解成上三角,下三角,置换矩阵的乘积

• 适用于方块矩阵((n imes n))
• LUP(P是置换矩阵)是一定存在的,这其实就是高斯消元法的体现
• 用于(Ax = b)的求解,(LUx = b),

Rank factorization(秩分解)

• 适用于(m imes n)矩阵,秩为(r)
• (A=CF),C((m imes r)),列满秩,F((r imes n)),行满秩
• 用于计算伪逆

Cholesky decomposition

• 适用于方块,对称,正定矩阵
• (A = LL^T) ,L是下三角矩阵
• 是唯一的,同时适用于Hermitian正定矩阵
• 是LU的一种特殊形式

QR decomposition

• 适用于(m imes n)
• (A =QR), Q是正交矩阵(QQ^T =I),R是上三角矩阵
• 也可以用于求解(Ax=b),而不需要求解逆矩阵
• 同时相对于LU分解,他是数值稳定的,(不需要保留小数点后面很多的数字,为了避免数值上的不稳定)

基于特征值的相关矩阵分解

Eigen decomposition

• spectral decomposition,同时也叫作谱分解
• 适用于具有不同特征向量的方块矩阵,
• (A=VDV^{-1}) ,D是由特征值组成的对角矩阵,V的每一列是特征值对应的特征向量

Jordan decomposition

• 适用于方块矩阵
• 是特征值分解的广泛推广形式

Schur decomposition

• 适用于方块矩阵
• 有复数版本的,有实数版本的schur分解
• 实数版本(A = VSV^T),V是正交矩阵,S是上三角块矩阵.(The blocks on the diagonal of S are of size 1×1 (in which case they represent real eigenvalues) or 2×2 (in which case they are derived from complex conjugate eigenvalue pairs).

Singular value decomposition

• 适用于(m imes n)矩阵
• (A= UDV^H),D非负对角矩阵,U,V是酉矩阵

其他形式的分解

Polar decomposition

• 适用于方块,复数矩阵
• (A= UP)(right polar decomposition), (A=P'U) (left polar decomposition)

数值稳定性,主元的选择

condition num

Measures how change in input is propogated to change in output

可以由SVD分解来求解条件数，判断矩阵的稳定性。具体参考QR Factorization and Singular Value Decomposition