线性回归为什么选择最小二乘
借用,吴恩达的图和公式
对于每一个样本而言,它的预测y和输入x以及误差还有参数之间的关系如下(这里的参数是固定值,不是随机变量)
我们知道对于误差而言我们假设它是一个均值为0的高斯分布
(为什么是高斯分布:http://blog.****.net/lpsl1882/article/details/78906274)
我们知道
那么y-theta*x = 误差 也服从高斯分布
那么这个时候就好办了 我们最大似然走起,下面就是数学推导没啥好说的了
借用,吴恩达的图和公式
对于每一个样本而言,它的预测y和输入x以及误差还有参数之间的关系如下(这里的参数是固定值,不是随机变量)
我们知道对于误差而言我们假设它是一个均值为0的高斯分布
(为什么是高斯分布:http://blog.****.net/lpsl1882/article/details/78906274)
我们知道
那么y-theta*x = 误差 也服从高斯分布
那么这个时候就好办了 我们最大似然走起,下面就是数学推导没啥好说的了