局部加权回归LOESS
欠拟合和过拟合
首先看下面的三幅图，
第一幅拟合为了 y=θ0+θ1xy=θ0+θ1x 的一次函数
第二幅拟合为了y=θ0+θ1x+θ2x2y=θ0+θ1x+θ2x2 的二次函数
第三幅拟合为了 y=∑5j=0θjxjy=∑j=05θjxj的五次项函数
最左边的分类器模型没有很好地捕捉到数据特征，不能够很好地拟合数据，我们称为欠拟合
而最右边的分类器分类了所有的数据，也包括噪声数据，由于构造复杂，后期再分类的新的数据时，对于稍微不同的数据都会识别为不属于此类别，我们称为过拟合
局部加权回归
局部加权回归是一种非参数学习算法，这使得我们不必太担心对于自变量最高次项的选择
我们知道，对于普通的线性回归算法，想要预测 xx 点的yy值，我们通过：
对于局部加权回归算法，我们通过下列步骤预测 yy 的值：
exp:以e为底数的指数函数