【机器学习课程-华盛顿大学】:2 回归 2.1 线性回归模型

一、课程计划:

(1)single回归

(2)multiple回归

(3)性能评估

(4)Ridge回归:岭回归

         对模型复杂度和数据拟合程度的均衡:cross validation

(5)特征选择和Lasso回归

(6)最近邻、kernel核回归

【机器学习课程-华盛顿大学】:2 回归 2.1 线性回归模型

 

二、一元线性回归模型

1、定义

y= w0 + w1*x + e

w0是y轴截距,w1是x变化量为1时,y的变化量

 

2、RSS,梯度下降

 

3、stepsize

【机器学习课程-华盛顿大学】:2 回归 2.1 线性回归模型

 

4、梯度下降

梯度的计算:

【机器学习课程-华盛顿大学】:2 回归 2.1 线性回归模型

(1)令梯度=0

【机器学习课程-华盛顿大学】:2 回归 2.1 线性回归模型

 

(2)梯度下降

【机器学习课程-华盛顿大学】:2 回归 2.1 线性回归模型

 

5、不对称cost

 

三、测试

如下答案输入后,反馈错误:我觉得没有错

【机器学习课程-华盛顿大学】:2 回归 2.1 线性回归模型