机器学习系列——线性回归（二）基础知识——正定/半正定矩阵

1、定义

• 正定矩阵：给定一个大小为 n*n 的实对称矩阵 A ，若对于任意长度为 n 的非零向量 x，有 x^TAx>0 恒成立，则矩阵 A 是一个正定矩阵。
• 半正定矩阵：给定一个大小为 n*n 的实对称矩阵 A ，若对于任意长度为 n 的向量 x，有 x^TAx>0 恒成立，则矩阵 A 是一个个半正定矩阵。
• 根据正定矩阵和半正定矩阵的定义，我们也会发现：半正定矩阵包括了正定矩阵，与非负实数和正实数之间的关系很像。

 

2、性质

• 半正定矩阵所有特征值非负
• 半正定矩阵有可能存在特征值为0的情况，此时该矩阵不可逆
• 正定矩阵所有特征值大于零
• 正定矩阵一定可逆
• 半正定矩阵+正定矩阵=正定矩阵，因此半正定矩阵加上一个正定矩阵，会变成一个可逆矩阵