吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】

课程地址:http://open.163.com/movie/2008/1/B/O/M6SGF6VB4_M6SGHJ9BO.html

一、符号约定

训练样本数目 m

特征数 n

输入变量/特征 x

输出变量/目标 y

样本 (x,y)

吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】 

吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】


二、梯度下降

1.批梯度下降

吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】

吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】

对于仅一组样本而言

吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】

对多组样本

吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】

2.随机梯度下降

每次只使用一组训练样本,用于样本数量较大的情况

吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】


三、正规方程组

使用新定义的运算,方便推导

定义:

吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】

吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】

一些结论:

吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】

问题推导:

吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】

吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】

吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】

吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】

吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】

最终结论:

                 吴恩达机器学习课程之二【监督学习应用(线性回归,梯度下降,标准方程推导)】