第5章 线性回归算法
1.解决回归问题
2.思想简单，实现容易
3.许多强大的非线性模型的基础
4.结果具有很好的可解释性
5.蕴含机器学习中的很多重要思想
所谓的建模的过程，其实就是找到一个模型最大程度的拟合我们的数据。在线性回归算法中，这个模型就是一个直线方程，所谓的最大拟合我们的数据，其实本质是找到一个函数 ，在这里我们称这个函数叫做损失函数，就是loss function，也就是我们的这个模型没有拟合样本的这一部分，就是损失的这一部分；有的算法中度量的是拟合的程度，在这种情况下称这个函数为效用函数(utility function)。统称它们为目标函数。
注意：分类问题
损失函数：度量出没有拟合出样本的部分
效用函数：度量是拟合的程度
参数学习的算法都是这样的一个套路。参数学习算法就是要创建一个模型，而机器学习的任务就是要学习这些模型的参数！《最优化原理》
导数等于0的地方就是函数极值的地方。
多元线性回归