机器学习 算法一:线性回归

监督学习(给定数据集-----部分数据集已有标签,对其进行学习,再分类预测。分类问题)

无监督学习(给定一系列数,让机器自己发现规律。聚类问题)

回归问题:是指要预测一个连续值的输出,比如房价

线性回归是很常见的一种回归,用来预测或者分类,主要解决线性问题

m------训练集样本数

x------输入变量

y------输出变量

h-----假设函数,给定x---->y

简单的线性回归

假设预测函数为:hθ(x) = θ0 + θ1x

计算代价函数J:cost function----------可以想象成使得距离最小

x(i)代表第i个输入

y(i)代表第i个输出

 

机器学习 算法一:线性回归

我们的目标就是最小化代价函数 

如何最小化代价函数:找到最合适的θ0 、θ1

使得代价函数往梯度下降的方向移动

θ0 、θ1的更新方式如下:(梯度下降法)

机器学习 算法一:线性回归