矩阵分解
基本矩阵分类
- 正交矩阵 ： (AA^T=A^TA=I)
- 正定矩阵 ： 对于任何(0 ot=xin R^n), (A^TxA>0), (A)为正定矩阵
- 对称矩阵 ： (A=A^T)
- 对称正定矩阵 ：若满足(A=A^T)，且对于任何(0 ot=xin R^n), (A^TxA>0)， (A)为对称正定矩阵
- Hermite矩阵 : 若满足(A=A^T)，且对于任何(0 ot=xin C^n), (A^TxA>0)， (A)为Hermite矩阵
范数定义
向量的范数可以简单形象的理解为向量的长度，或者向量到零点的距离，或者相应的两个点之间的距离。
向量(x=(x_1,x_2,cdots,x_n))的范数是一个函数(||x||),满足如下几个条件
- (||x||>=0) 非负性
- (||cx||=|c||x|||) 齐次性
- (||x+y||<=||x||+||y||) 三角不等性
[||x||_k=left( sum_{i=1}^{n}|x_i|^k
ight)^{1/k}
]
常用范数
(L1)范数：(||x||_1=left(sum_{i=1}^{n}|x_i|^1 ight)^{1/1}=sum_{i=1}^{n}|x_i|) 即各项的绝对数之和
(L2)范数：(||x||_2=left(sum_{i=1}^{n}|x_i|^2 ight)^{1/2}) 即各个元素平方和的开方
(Linfty)范数: (||x||_{infty}=lim_{k oinfty} left( sum_{i=1}^{n}|x_i|^k ight)^{1/k}=max(|x_i|)) 为各个元素中绝对值最大值