吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】
课程地址:http://open.163.com/movie/2008/1/B/O/M6SGF6VB4_M6SGHJ9BO.html
一、符号约定
训练样本数目 m
特征数 n
输入变量/特征 x
输出变量/目标 y
样本 (x,y)
二、梯度下降
1.批梯度下降
对于仅一组样本而言
对多组样本
2.随机梯度下降
每次只使用一组训练样本,用于样本数量较大的情况
三、正规方程组
使用新定义的运算,方便推导
定义:
一些结论:
问题推导:
最终结论: