【机器学习课程-华盛顿大学】:2 回归 2.3 性能评估(2)

 

一、预测误差:3种误差相加

期望预测误差:泛化误差generalization error的预测值

用模型,对于所有训练集都得到预测误差,然后把误差值进行平均

 

平均预测误差:

【机器学习课程-华盛顿大学】:2 回归 2.3 性能评估(2)

 

(1)第一项:噪声方差

噪声是不可减少的误差

【机器学习课程-华盛顿大学】:2 回归 2.3 性能评估(2)

 

(2)偏差bias

在各个训练集上得到的不同模型下的预测,再平均。

真实模型结果 - 多个预测模型得到的平均模型的预测结果 = 偏差bias

【机器学习课程-华盛顿大学】:2 回归 2.3 性能评估(2)

【机器学习课程-华盛顿大学】:2 回归 2.3 性能评估(2)

 

(3)方差

在多个训练集上预测模型与平均模型之间的方差。

【机器学习课程-华盛顿大学】:2 回归 2.3 性能评估(2)

 

二、数据集作用和划分

【机器学习课程-华盛顿大学】:2 回归 2.3 性能评估(2)

【机器学习课程-华盛顿大学】:2 回归 2.3 性能评估(2)

 

三、测试

 

  • 特征集与子特征集:题号3错误,答案为3

【机器学习课程-华盛顿大学】:2 回归 2.3 性能评估(2)

 

 

  • 固定模型复杂度,训练集无限:如下结果错误,正确答案?

【机器学习课程-华盛顿大学】:2 回归 2.3 性能评估(2)