矩阵分析与应用 -- 向量空间

向量空间

定义

可以看出，一个向量空间中定义了向量的加法与数乘，并且满足加法和数乘的封闭性。加法和数乘均满足交换律和结合律。满足M5，并存在0元、负元。

子空间

子空间是向量空间的一个子集，并且其满足向量空间的定义。向量空间的子集必然已经满足了加法与数乘的交换律与结合律以及M5。实际上，只要子集满足加法与数乘的封闭性，其必然构成一个向量空间。（满足封闭性即存在0元、负元）。因此验证一个向量子空间，只需要证明：

平凡子空间 ： 仅含有0元。

任意一个子空间都可以写成一个线性函数的值域空间。（证明略）




证明：
A和B行等价，即A = PB，P是多个行初等变换矩阵相乘得到的矩阵。
那么对于N(A)中的任意向量x，有Ax = 0，PAx = 0，Bx=0，因此x也在N(B)中。对于$R(A^T)$R(AT)中的任意向量x，存在y有 $A^Ty = x$ATy=x，那么 $B^T(P^Ty) = x$BT(PTy)=x，因此 x 也在 $R(B^T)$R(BT) 中。同理可证N(B)中的任意向量x在N(A)中，$R(B^T)$R(BT)中的任意向量也在$R(A^T)$R(AT)中。即两空间相同。

列等价同理。

基和维度

一个矩阵A乘上一个满秩矩阵B，那么结果AB或BA的秩与A的相同。


证明：对于 $R(A^TA)$R(ATA) 中的任意向量x，$A^TAy = x$ATAy=x，那么x也属于 $R(A^T)$R(AT)。$R(A^TA) \sube R(A^T)$R(ATA)⊆R(AT)，又 $dimR(A^TA) = rank(A^TA) = rank(A^T) = dimR(A^T)$dimR(ATA)=rank(ATA)=rank(AT)=dimR(AT)，因此 $R(A^TA) = R(A^T)$R(ATA)=R(AT)。其余同理。

由上述性质发现，$R(A^TA) = R(A^T)$R(ATA)=R(AT)，那么 $A^TAx = A^Tb$ATAx=ATb 这个方程组总是有解，因为

无论方程组 $Ax = b$Ax=b 是否有解，$A^TAx = A^Tb$ATAx=ATb 总是有解的， 这个方程组也被称为 the associated system of normal equations。如果原方程组 $Ax = b$Ax=b 有唯一解，那么其余$A^TAx = A^Tb$ATAx=ATb的解是一致的。