什么是矩阵的秩
1.列向量的空间维数
2.rank的另一个定义：矩阵非零子式的最大阶数
3.对应线性方程组有效方程组的个数
什么是矩阵的迹
在线性代数中，一个n×n矩阵A的主对角线（从左上方至右下方的对角线）上各个元素的总和被称为矩阵A的迹（或迹数），一般记作tr(A)。
正定矩阵：
特征值都大于0的矩阵
半正定矩阵：
特征值大于等于0的矩阵
行空间：
矩阵的行向量组成的空间。
列空间：
矩阵的列向量组成的空间
增广矩阵
系数矩阵
线性方程组有解/无解/唯一解的条件？
① 无解：系数矩阵秩 < 增广矩阵的秩
② 唯一解：系数矩阵秩 = 增广矩阵的秩 = 列数
③ 无穷解：系数矩阵秩 = 增广矩阵的秩 < 列数
矩阵的逆
简而言之，逆矩阵是一个判断相似性的工具。逆矩阵A与列向量p相乘后，将得到列向量q，q的第i个分量表示p与A的第i个列向量的相似度。
如果您正好了解机器学习，不妨看看我的解释在线性模型上的运用：关于线性模型你可能还不知道的二三事（一、样本）
凸函数
梯度下降怎么避免局部最优
1.local minimal saddle minimal
2.动量 + learning rate
3.SGD