线性代数MIT 18.06 记录(十五)子空间和投影

投影

线性代数MIT 18.06 记录(十五)子空间和投影
(老师侧颜好帅啊啊啊啊)

推导过程:
epaT(bp)=0e和p垂直,有:a^T(b-p)=0
aT(bxa)=0a^T(b-xa) = 0
aTb=xaTaa^Tb = xa^Ta
aTa因为a^Ta是一个数,所以同时除以它有:
x=aTb/aTax = a^Tb/a^Ta
p=(aaT/aTa)b p = (aa^T/a^Ta)b
这个p就是一个n×n维的矩阵

线性代数MIT 18.06 记录(十五)子空间和投影线性代数MIT 18.06 记录(十五)子空间和投影
投影,是一个矩阵,作用在b上面,使我们得到投影p

特殊矩阵

(aaT/aTa)(aa^T/a^Ta)
p=Pbp = P*b
这个矩阵非常有趣,大P*b得到的在大P的列空间(一维)里

线性代数MIT 18.06 记录(十五)子空间和投影
所以P矩阵的列空间的一条通过a的直线,所以它的秩为1

这个矩阵是对称的: PT=PP^T = P

第二次转置无效P2=PP^2 = P

为什么需要投影

因为Ax=bAx =b可能无解

Ax肯定在A的列空间内,而b不在,我们把b做到A上的投影变成p,就成了有解的情况

二维情况

线性代数MIT 18.06 记录(十五)子空间和投影

矩阵形式
线性代数MIT 18.06 记录(十五)子空间和投影

线性代数MIT 18.06 记录(十五)子空间和投影

我天,normal equation 推出来了

线性代数MIT 18.06 记录(十五)子空间和投影

刚才两个性质都保存下来了