矩阵的初等变换又分为矩阵的初等行变换和矩阵的初等列变换。
1）初等行变换：所谓数域 $P$ 上矩阵的初等行变换是指下列 $3$ 种变换：
a. 以 $P$ 中一个非零的数 $k$ 乘矩阵的第 $i$ 行，即为 $E_{i}(k)$，那它的逆矩阵自然就是 $E_{i}(frac{1}{k})$。
b. 把矩阵第 $i$ 行的 $k$ 倍加到第 $j$ 行，这里 $k$ 是 $P$ 中的任意一个数，记为 $E_{ij}(k)$，要想把第 $j$ 行变回去，自然得减掉第 $i$ 行的 $k$ 倍，即 $E_{ij}(-k)$。
c. 互换矩阵中第 $i$ 行和第 $j$ 行，记为 $E_{ij}$，逆矩阵为 $E_{ij}$，这是很显然的，就是再交换一次就变回去了。
2）初等列变换：所谓数域 $P$ 上矩阵的初等列变换是指下列 $3$ 种变换：
a. 以 $P$ 中一个非零的数 $k$ 乘矩阵的第 $i$ 列，记为 $E_{i}(k)$。
b. 把矩阵的第 $i$ 列的 $k$ 倍加到第 $j$ 列，这里 $k$ 是 $P$ 中的任意一个数，记为 $E_{ij}(k)$。
c. 互换矩阵中第 $i$ 列和第 $j$ 列，记为 $E_{ij}$。
初等矩阵：由单位矩阵 $E$ 经过一次初等变换得到的矩阵称为初等矩阵。
矩阵经过初等变换后不会改变它原来的秩，因为初等矩阵是满秩的方阵，所以它是可逆的，如
$$PA = B$$
于是有
$$r(B) leq r(A)$$
因为 $P$ 可逆，所以有
$$A = P^{-1}B$$
于是
$$r(A) leq r(B)$$
所以
$$r(A) = r(B)$$
注：如果不了解这个过程，可以先去阅读博客。
左行右列定理：初等矩阵 $P$ 左乘或(右乘) $A$ 得到 $PA(AP)$，就是对 $A$ 做了一次与P相同的初等行(列)变换。即要使矩阵 $A$ 做出和初等阵相同的列变换，
则 $A$ 右乘 $P$。要使矩阵 $A$ 做出和初等阵相同的行变换，则 $A$ 左乘 $P$。
为什么是这样的呢？可以阅读博客。
其实就是从向量角度来理解矩阵乘法，对于矩阵相乘 $AB=C$，我们可以这样理解：
1）矩阵 $C$ 的每一个行向量是矩阵 $B$ 的行向量的线性组合，组合的系数是矩阵 $A$ 的每一行。
2）矩阵 $C$ 的每一个列向量是矩阵 $A$ 的列向量的线性组合，组合的系数是矩阵 $B$ 的每一列。