Coursea-吴恩达-machine learning学习笔记（十）【week 6之Advice for Applying Machine Learning】

假设使用正则化线性回归预测房价：

当把假设函数用于新的数据集，发现在预测时出现了很大误差。此时，可以执行的下一步措施包括：

• 获取更多训练样本；
• 尝试更少特征值；
• 尝试更多特征值；
• 尝试增加多项式特征值；
• 减小λ$\lambda$值；
• 增大λ$\lambda$值。

机器学习诊断法：通过执行一种测试方法，能够了解某种算法是否有用，通常也能告诉你，想要改进一种算法的效果应该做什么样的尝试。
诊断法需要花费时间，但是一种很有效的方法。

假设拥有一组训练样本，为确保可以评估假设函数，将训练样本分成两部分，70%作为训练集，30%作为测试集，mtest$m_{test}$作为测试样本总数：
训练集：(x(1),y(1)),(x(2),y(2)),⋯,(x(m),y(m))$(x^{(1)},y^{(1)}),(x^{(2)},y^{(2)}),\cdots ,(x^{(m)},y^{(m)})$
测试集：(x(1)test,y(1)test),(x(2)test,y(2)test),⋯,(x(mtest)test,y(mtest)test)$(x_{test}^{(1)},y_{test}^{(1)}),(x_{test}^{(2)},y_{test}^{(2)}),\cdots ,(x_{test}^{(m_{test})},y_{test}^{(m_{test})})$

若训练数据存在某种规律，训练集、测试集的选取应采用随机原则。

具体执行步骤：

1. 利用训练集进行学习，得到参数θ$\theta$；
2. 计算测试误差：
   对于线性回归：
   
   Jtest(θ)=12mtest∑i=1mtest(hθ(x(i)test)−y(i)test)2$$J_{test}(\theta )=\frac{1}{2m_{test}}\sum _{i=1}^{m_{test}}(h_{\theta }(x_{test}^{(i)})-y_{test}^{(i)}{)}^2$$
   
   对于逻辑回归：
   
   Jtest(θ)=−1mtest∑i=1mtest(y(i)testlog(hθ(x(i)test))+(1−y(i)test)log(1−hθ(x(i)test)))$$J_{test}(\theta )=-\frac{1}{m_{test}}\sum _{i=1}^{m_{test}}(y_{test}^{(i)}log(h_{\theta }(x_{test}^{(i)}))+(1-y_{test}^{(i)})log(1-h_{\theta }(x_{test}^{(i)})))$$
   
   另一种表达方式：0/1$0/1$误分率：
   
   err(hΘ(x),y)={1,0,if (hΘ(x)⩾0.5 and y=0) or (hΘ(x)<0.5 and y=1)otherwiseTest Error=1mtest∑i=1mtesterr(hΘ(x),y)$$\begin{gathered} err(h_{\mathrm{\Theta }}(x),y)=\{\begin{array}{ll}1,& if(h_{\mathrm{\Theta }}(x)⩾0.5andy=0)or(h_{\mathrm{\Theta }}(x)<0.5andy=1)\\ 0,& otherwise\end{array} \\ TestError=\frac{1}{m_{test}}\sum _{i=1}^{m_{test}}err(h_{\mathrm{\Theta }}(x),y) \end{gathered}$$

模型选择问题
在实际应用中，为了更好地评价某个假设函数，通常采用上述方法的升级版：
将一组训练样本分成三部分：训练集、交叉验证集、测试集，典型的分隔比例为(60%:20%:20%)$(60\mathrm{\%}:20\mathrm{\%}:20\mathrm{\%})$
训练集：(x(1),y(1)),(x(2),y(2)),⋯,(x(m),y(m))$(x^{(1)},y^{(1)}),(x^{(2)},y^{(2)}),\cdots ,(x^{(m)},y^{(m)})$
交叉验证集：(x(1)cv,y(1)cv),(x(2)cv,y(2)cv),⋯,(x(mcv)cv,y(mcv)cv)$(x_{cv}^{(1)},y_{cv}^{(1)}),(x_{cv}^{(2)},y_{cv}^{(2)}),\cdots ,(x_{cv}^{(m_{cv})},y_{cv}^{(m_{cv})})$
测试集：(x(1)test,y(1)test),(x(2)test,y(2)test),⋯,(x(mtest)test,y(mtest)test)$(x_{test}^{(1)},y_{test}^{(1)}),(x_{test}^{(2)},y_{test}^{(2)}),\cdots ,(x_{test}^{(m_{test})},y_{test}^{(m_{test})})$

训练误差：Jtrain(θ)=12m∑i=1m(hθ(x(i))−y(i))2$J_{train}(\theta )=\frac{1}{2m}\sum _{i=1}^m(h_{\theta }(x^{(i)})-y^{(i)}{)}^2$
交叉验证误差：Jcv(θ)=12mcv∑i=1mcv(hθ(x(i)cv)−y(i)cv)2$J_{cv}(\theta )=\frac{1}{2m_{cv}}\sum _{i=1}^{m_{cv}}(h_{\theta }(x_{cv}^{(i)})-y_{cv}^{(i)}{)}^2$
测试误差：Jtest(θ)=12mtest∑i=1mtest(hθ(x(i)test)−y(i)test)2$J_{test}(\theta )=\frac{1}{2m_{test}}\sum _{i=1}^{m_{test}}(h_{\theta }(x_{test}^{(i)})-y_{test}^{(i)}{)}^2$

若存在以下假设函数：
1. hθ(x)=θ0+θ1x$h_{\theta }(x)={\theta }_0+{\theta }_{1}x$
2. hθ(x)=θ0+θ1x+θ2x2$h_{\theta }(x)={\theta }_0+{\theta }_{1}x+{\theta }_2{x}^2$
3. hθ(x)=θ0+θ1x+θ2x2+θ3x3$h_{\theta }(x)={\theta }_0+{\theta }_{1}x+{\theta }_2{x}^2+{\theta }_3{x}^3$
⋯$\cdots$
10. hθ(x)=θ0+θ1x+⋯+θ10x10$h_{\theta }(x)={\theta }_0+{\theta }_{1}x+\cdots +{\theta }_{10}{x}^{10}$

选择假设函数的具体方法如下：

1. 用训练集优化各假设函数的参数θ$\theta$；
2. 用交叉验证集找到误差最小的假设函数；
3. 用测试集估算步骤2中误差最小的假设函数的泛化误差。

由于欠拟合和过拟合的存在，随着假设函数的多项式最高项的增大，训练误差和交叉验证误差的变化如下图：

上图中，交叉验证误差曲线的左边对应高偏差，右边对应高方差；
高偏差对应欠拟合：训练误差和交叉验证误差均很大，且训练误差≈$\approx$交叉验证误差，原因为多项式最高次项过低；
高方差对应过拟合：训练误差较小，交叉验证误差很大，原因为多项式最高次项过高。

正则化与偏差/方差的关系：
假设要对高阶多项式进行拟合： hθ(x)=θ0+θ1x+θ2x2+θ3x3+θ4x4$h_{\theta }(x)={\theta }_0+{\theta }_{1}x+{\theta }_2{x}^2+{\theta }_3{x}^3+{\theta }_4{x}^4$
则：J(θ)=12m[∑i=1m(hθ(x(i))−y(i))2+λ∑j=1nθ2j]$J(\theta )=\frac{1}{2m}[\sum _{i=1}^m(h_{\theta }(x^{(i)})-y^{(i)}{)}^2+\lambda \sum _{j=1}^n{\theta }_j^2]$
关于λ$\lambda$的取值有三种情况：

1. λ$\lambda$取值很大，则θ0≈0,⋯,θ4≈0,hθ(x)≈θ0${\theta }_0\approx 0,\cdots ,{\theta }_4\approx 0,h_{\theta }(x)\approx {\theta }_0$，欠拟合，高偏差；
2. λ$\lambda$取值很小， λ≈0$\lambda \approx 0$，正则化没有起作用，过拟合，高方差；
3. λ$\lambda$取值适当，拟合度正好。

为选取合适的λ$\lambda$参数，需要进行如下步骤：

1. 创建一个λ$\lambda$取值列表，如λ∈{0,0.01,0.02,⋯,10.24}$\lambda \in \{0,0.01,0.02,\cdots ,10.24\}$；
2. 创建一个模型集，即不同阶或包含其他的变量的不同假设函数；
3. 迭代遍历λ$\lambda$，对于每个λ$\lambda$，都遍历所有的假设函数，用测试集得到其θ$\theta$取值；
4. 使用步骤3得到的θ$\theta$带入假设函数，不进行正则化或λ=0$\lambda =0$，计算交叉验证误差Jcv(θ)$J_{cv}(\theta )$；
5. 选择Jcv(θ)$J_{cv}(\theta )$最小的λ$\lambda$和θ$\theta$对应关系；
6. 用选择的那对λ$\lambda$和θ$\theta$，计算Jtest(θ)$J_{test}(\theta )$看是否有好的泛化效果。

学习曲线
训练误差：Jtrain(θ)=12m∑i=1m(hθ(x(i))−y(i))2$J_{train}(\theta )=\frac{1}{2m}\sum _{i=1}^m(h_{\theta }(x^{(i)})-y^{(i)}{)}^2$
交叉验证误差：Jcv(θ)=12mcv∑i=1mcv(hθ(x(i)cv)−y(i)cv)2$J_{cv}(\theta )=\frac{1}{2m_{cv}}\sum _{i=1}^{m_{cv}}(h_{\theta }(x_{cv}^{(i)})-y_{cv}^{(i)}{)}^2$
当学习算法存在高偏差：

• 训练集规模较小时，Jtrain(θ)$J_{train}(\theta )$较小，而Jcv(θ)$J_{cv}(\theta )$较大；
• 训练集规模较大时，Jtrain(θ)$J_{train}(\theta )$与Jcv(θ)$J_{cv}(\theta )$趋近，即Jtrain(θ)≈Jcv(θ)$J_{train}(\theta )\approx J_{cv}(\theta )$，但均较大。

此时，增加训练样本数量对训练算法无帮助。

当学习算法存在高方差：

• 训练集规模较小时，Jtrain(θ)$J_{train}(\theta )$较小，而Jcv(θ)$J_{cv}(\theta )$较大；
• 训练集规模较大时，Jtrain(θ)$J_{train}(\theta )$随着样本数增大而增大，Jcv(θ)$J_{cv}(\theta )$随着样本数增大而减小，Jtrain(θ)$J_{train}(\theta )$依然小于Jcv(θ)$J_{cv}(\theta )$，但差距变小。

此时，增加训练样本数量对训练算法有帮助。

本文最开始提到的修正算法的措施具体作用方向如下：

• 获取更多训练样本：解决高方差；
• 尝试更少特征值：解决高方差；
• 尝试更多特征值：解决高偏差；
• 尝试增加多项式特征值：解决高偏差；
• 减小λ$\lambda$值：解决高偏差；
• 增大λ$\lambda$值：解决高方差。

诊断神经网络：

• 简单的神经网络趋近于欠拟合，但计算简单；
• 复杂的神经网络趋近于过拟合，但计算复杂，可以使用正则化(增大λ$\lambda$)解决。