【机器学习】线性回归?逻辑回归?跟女算法工程师一起学习吧 笔记

〇、前情提要

参考:

  1. 线性回归?逻辑回归?跟女算法工程师一起学习吧
    https://www.bilibili.com/video/BV1Cx411d7MU
  2. 线性回归?逻辑回归?跟女算法工程师一起学习吧 视频的ppt 方便大家学习
    https://www.bilibili.com/read/cv2973397?spm_id_from=333.788.b_636f6d6d656e74.22

一、回归与分类

【机器学习】线性回归?逻辑回归?跟女算法工程师一起学习吧 笔记

回归

数值连续
线性回归
多个x对应一个y

分类

数值分散
朴素贝叶斯 K邻近距离 支持向量机
一个x对应一个y

思路

准备数据 - 建立模型


二、线性回归

ppt

【机器学习】线性回归?逻辑回归?跟女算法工程师一起学习吧 笔记

例子

【机器学习】线性回归?逻辑回归?跟女算法工程师一起学习吧 笔记
【机器学习】线性回归?逻辑回归?跟女算法工程师一起学习吧 笔记
求出各个点到直线的距离,距离最小
【机器学习】线性回归?逻辑回归?跟女算法工程师一起学习吧 笔记

多维线性回归

【机器学习】线性回归?逻辑回归?跟女算法工程师一起学习吧 笔记
有监督的 求差值 使损失函数最小
梯度下降 求偏导数
正规方程解 矩阵变换
损失函数收敛


三、逻辑回归

ppt

【机器学习】线性回归?逻辑回归?跟女算法工程师一起学习吧 笔记
分类算法
使线性回归的值映射到sigmoid函数

sigmoid

【机器学习】线性回归?逻辑回归?跟女算法工程师一起学习吧 笔记
分类 - 分段 - sigmoid连续的函数

预测函数 损失函数

【机器学习】线性回归?逻辑回归?跟女算法工程师一起学习吧 笔记
梯度下降


总结

线性回归

回归问题

逻辑回归

分类问题
将线性回归的值映射到sigmoid函数中

ppt步骤

【机器学习】线性回归?逻辑回归?跟女算法工程师一起学习吧 笔记
预测函数
损失函数 - 真实、预测偏差
损失函数最小化 - 梯度下降法