【线性代数】四个基本子空间

矩阵A一共对应着4个基本子空间，分别是列空间、行空间、零空间以及左零空间

行空间

设一m行n列实元素矩阵为$A$(mxn),则其行空间(Row Space)是由矩阵A的所有行向量所生成的$R^n$上的子空间，记作$C(A^{\mathrm{T}})$或$R(A)$。其中，矩阵$A^{\mathrm{T}}$是矩阵A的转置。

矩阵A的行空间中的所有向量均为矩阵A的行向量的某种线性组合，都为$R^n$上的向量（即n维向量）。

矩阵A对应的行空间维度等于矩阵A的行秩，最大为min(m,n)。即：

dim $C(A^{\mathrm{T}})$ = dim $R(A)$ = rank($A^{\mathrm{T}}$) ≤ min(m,n)

行空间$C(A^{\mathrm{T}})$的一组自然基底是矩阵A的行向量的最大线性无关组。

列空间

既然行空间是矩阵A所有行向量的线性组合，那么可以想到A对应的列空间应该是所有列向量的线性组合。

设一m行n列实元素矩阵为$A$(mxn),则其行空间(Col Space)是由矩阵A的所有列向量生成的$R^m$上的子空间，记作$C(A)$。

矩阵A的列空间$C(A)$中的所有向量均为矩阵A中列向量的某种线性组合，都为$R^m$上的向量（即m维向量）。

$C(A)$的维度等于矩阵A的列秩，最大为min(m,n)。即：

dim $C(A)$ = rank($A$) ≤ min(m,n)

列空间$C(A)$的一组自然基底是矩阵A的列向量的最大线性无关组。

零空间

在数学中，一个矩阵A的零空间是方程$Ax = 0$的所有解$x$的集合。它也叫做A的核, 核空间，记为$Null(A)$。

想像一下，方程$Ax = 0$的解通常有哪种可能？我想大概分为两种可能：

1. $Null(A)$仅有零解
2. $Null(A)$包含零解和无穷多个非零解

所以，不管怎么样，$Null(A)$都至少包含零向量

左零空间

与零空间类似，只不过A的左零空间是方程$A^{\mathrm{T}}x = 0$的所有解$x$的集合。记为$Null(A^{\mathrm{T}})$

同样的，解集同样至少包含零解

四个基本子空间的性质

对于一个mxn矩阵$A$来说：

1. 行空间与零空间正交
2. 列空间与左零空间正交
3. dim $R(A)$ + dim $Null(A)$ = m，即行空间的维度+零空间的维度=行数
4. dim $C(A)$ + dim $Null(A^{\mathrm{T}})$ = n，即列空间的维度+左零空间的维度=列数

性质证明

要证明两个子空间正交，先来给定子空间正交的定义是什么：若(内积空间)的子空间A和B满足一者中的每个向量都与另一者正交，那么它们互为正交子空间。其中内积空间是添加了内积运算的向量空间。

好吧，反正就是证明矩阵A对应的行空间中的每个向量都与零空间中每个向量正交即可。有mxn矩阵$A$，将它写为下面这个形式:

$$\left[ \begin{matrix} row & 1 & of & A \\ row & 2 & of & A \\ row & 3 & of & A \\ &\ .\\ &\ . \\ &\ . \\ row & m & of & A \end{matrix} \right]$$
我们要求$Ax = 0$，让我们用上面这种形式写一遍： $$\begin{equation} \left[ \begin{matrix} row & 1 & of & A \\ row & 2 & of & A \\ row & 3 & of & A \\ &\ .\\ &\ . \\ &\ . \\ row & m & of & A \end{matrix} \right] \left[ \begin{matrix} x_1\\ x_2\\ x_3\\ .\\ .\\ .\\ x_n \end{matrix} \right]=\left[ \begin{matrix} 0\\ 0\\ 0\\ .\\ .\\ .\\ 0 \end{matrix} \right] \end{equation}$$
所以，如果有一个向量$v$属于$Null(A)$，显然，将$v$带入(1)式是成立的。所以A中的每一行，即每个行向量都与向量$v$都正交。而A的行空间是行向量们的线性组合，所以$v$与A的行空间是正交的。同理，对于$Null(A)$中的其他向量，也和$v$一样与A的行空间是正交。因此，足以证明A行空间与零空间正交。

同样的，可以证明A的列空间与左零空间正交，这里不再赘述。

举例

好吧，举个实际的例子，这样以后看到也能马上想起来，哦，确实是这样。
给出一个3x2的矩阵

$$A= \left[ \begin{matrix} 2 & 4 & 1 \\ 3 & 1 & 2 \end{matrix} \right]$$
这个矩阵是我胡编的，让我们分别求一下A对应的行空间、列空间、零空间以及左零空间

求解行空间

显然，在A矩阵里有两个行向量$\overrightarrow{r_1}, \overrightarrow{r_2}$，它们分别是

$$\overrightarrow{r_1}=\left[ \begin{matrix} 2\\ 4\\ 1 \end{matrix} \right] \ \ \ \ \ \ \ \ \ \ \ \overrightarrow{r_2}=\left[ \begin{matrix} 3\\ 1\\ 2 \end{matrix} \right]$$
它们线性无关，所以$\overrightarrow{r_1}, \overrightarrow{r_2}$可以作为行空间中的一组基。它俩张成了A的行空间，$R(A)$中的任意一个向量都可以表示为 $$\begin{equation} λ_1*\left[ \begin{matrix} 2\\ 4\\ 1 \end{matrix} \right]+ λ_2*\left[ \begin{matrix} 3\\ 1\\ 2 \end{matrix} \right]，其中λ_1、λ_2是任意实数 \end{equation}$$
我们已经求得了A的行空间$R(A)$

求解列空间

显然，在A矩阵里有三个列向量$\overrightarrow{r_1}, \overrightarrow{r_2}, \overrightarrow{r_3}$，它们分别是

$$\overrightarrow{r_1}= \begin{equation} \left[ \begin{matrix} 2\\ 3 \end{matrix} \right] \ \ \ \ \ \ \ \ \ \ \ \overrightarrow{r_2}=\left[ \begin{matrix} 4\\ 1 \end{matrix} \right] \ \ \ \ \ \ \ \ \ \ \ \overrightarrow{r_3}=\left[ \begin{matrix} 1\\ 2 \end{matrix} \right] \end{equation}$$
它们线性无关，所以$\overrightarrow{r_1}, \overrightarrow{r_2}, \overrightarrow{r_3}$可以作为行空间中的一组基，张成了A的列空间，$C(A)$中的任意一个向量都可以表示为 $$λ_1*\left[ \begin{matrix} 2\\ 3 \end{matrix} \right]+ λ_2*\left[ \begin{matrix} 4\\ 1 \end{matrix} \right]+ λ_3*\left[ \begin{matrix} 1\\ 2 \end{matrix} \right]，其中λ_1、λ_2、λ_3是任意实数$$
我们已经求得了A的列空间$R(A)$。

这里的行空间与列空间刚好由矩阵A的每行每列表示是因为我选的矩阵恰好是行满秩与列满秩，行空间由行向量组成的极大线性无关组表示，同理，列空间由列向量组成的极大线性无关组表示

求解零空间

那就是求解

$$\begin{equation} \left[ \begin{matrix} 2 & 4 & 1 \\ 3 & 1 & 2 \end{matrix} \right] \left[ \begin{matrix} x_1 \\ x_2 \\ x_3 \end{matrix} \right] =\left[ \begin{matrix} 0 \\ 0 \\ 0 \end{matrix} \right] \end{equation}$$
使用高斯消元等到A矩阵的行最简形 $$U=\begin{equation} \left[ \begin{matrix} -1 & -3 & 1 \\ 0 & 10 & -1 \end{matrix} \right] \end{equation}$$
可以得到解的集合为 $$x=k \begin{equation} \left[ \begin{matrix} 14 \\ -1 \\ 10 \end{matrix} \right] \end{equation}$$

求解左零空间

将矩阵A转置有

$$A^{\mathrm{T}}= \begin{equation} \left[ \begin{matrix} 2 & 3 \\ 4 & 1 \\ 1 & 2 \end{matrix} \right] \end{equation}$$
求解 $$\begin{equation} \left[ \begin{matrix} 2 & 3 \\ 4 & 1 \\ 1 & 2 \end{matrix} \right] \left[ \begin{matrix} x_1 \\ x_2 \end{matrix} \right] =\left[ \begin{matrix} 0 \\ 0 \end{matrix} \right] \end{equation}$$
以我多年的做题经验（笑），这个应该只有零解。

总结

四个空间都求出来了，加加它们的维度也是满足之前给出的子空间的性质，不同空间对应的基包含的向量也是相互正交的。