课程来源：网易云课堂学习计划（课程链接）
作者简述：作者为一名正在读研的学生，自己的数学状态较差。本科期间所学均能算跟得上，而且通过自己的努力经过了研究生考试。但是对数学的理解并不透彻，只是根据课上所学去做题而已。如今科研中，许多过程均需要用到所学的数学知识，然而一个好的理解和一个扎实的基础才是科研之本。数学虽然是作为一种工具，如果不了解含义，无论是是使用上还是在其基础之上进行修改均显得支支吾吾。于是决定重新学习线性代数相关知识，并做此笔记以供复习或和他人分享。
用途：此系列文章均是作者在课上所学及其自己相关的数学思想所做的笔记，如有理解错误之处还望大家指出。本系列文章均可不咨询情况下任意转载和学习（不可商用）。
作者研究方向为机器学习，如果有相同方向的小伙伴想一起学习，请加QQ123854340（备注来源博客），如果人数较多还可能建群。同时发现文章中有错误之处也请发邮件到123854340@qq.com或者下方留言。
在上节课中，我们对方程组（AX = 0）进行求解。这节课，我们将对方程组（AX = b）进行求解，并探讨它的可解性。
一、方程组AX = b
首先，给出一个方程组（AX = b）的例子，让我们先对这个特例进行简要的分析：（方程组如下图）
对于这个方程组，我们不妨去思考一下，当b1、b2、b3为何值时，方程组将会无解，为何值时，方程组会有解！仔细观察，你将会发现方程组第一行系数，和第二行系数与第三行系数存在着关系（r1 + r2 = r3，当然这也是故意设置的，方便讲解）如下图是方程组系数矩阵A（在系数矩阵中看着更加的清晰）
如果将b1、b2、b3设置为1、3、15，很显然方程组将无解。而如果设置为1、3、4则方程组有解。如果方程组行存在r1 + r2 = r3这样的关系，那么b的分量也必须满足，否则将会无解。还可以从另外一个角度去理解。如下，方程组的增广矩阵为：
我们对其增广矩阵进行消元变换，如下：
可以看出，当我们对增广矩阵消元至第三行都为0的状态时，b3-b2-b1必须为0，否则方程组将无解。
二、方程组AX = b的可解性
在AX = 0方程中笔记中，我们并没有提到可解性的问题，因为方程组AX = 0一定有解（0解）。而通过上面的初步认识，我们发现AX = b这个方程组有可能出现无解的状态。
如果从行的角度去理解，我们可以有如下总结。如果方程组系数矩阵A的行的线性组合可以生成0向量，那么相同的组合作用在b的分量上，也必须得到0。
如果从列的角度去理解，我们可以把方程组看做如下表达：
即：可以看成是系数矩阵A的列的线性组合，而方程组的意思则是是否对于向量b存在一种组合系数，使得系数矩阵A的列可以线性的表示b。很显然，如果b存在于系数矩阵A的列所构成的空间中（即列空间C（A）），那么方程组有解。
三、方程组AX = b的解
当方程组有解的情况下，我们即可求出其完整的解。其解的结构有两部分组成。
1、特解
根据增广矩阵的消元变化，我们可以得到方程组的主元和自由变元，当我们将所有的自由变元设置为0，并且利用自由变元求出主元，我们即可获得方程组的一个特解（因为我们对自由变元设定了值，所以我们称之为特定的解）。
2、NullSpace（通解）
我们求解方程组AX = b所对应的方程组AX = 0的解，即A的NullSpace（A的零空间）。
由于：
所以Xp+Xn为方程组的解。（AX = b的解不在是一个空间）
对于方程组系数矩阵A的不同状态，它对应的解也有所不同（但整体解的结构是一样的）。下面我们对其进行总结：
对于一个m by n的矩阵A，他的秩r存在关系：r<=m,r<=n
1、Full column rank means r = n < m
对应的解只有特解Xp（如果有解的话），也可能解不存在。我们可以自己写个例子推导下去加注理解。
2、r = n = m
此时，对于任意的b一定存在一个解与之对应。因为A是可逆的方阵。它的列所组成的空间能表示任意个同维度向量。
3、Full row rank means r = m < n
此时对于任意的b都有解，它的解有无穷多个。因为存在自由变元n-r个。
4、r<m,r<n
这种情况为一般情况，它可能无解，也可能有无穷多个解。