DataWhale基础算法梳理第二次作业--逻辑回归

【学习任务】

  1. Logistic回归损失函数的极大似然推导:西瓜书公式3.27怎么推来的?
  2. Logistic回归损失函数的最优化算法:什么是牛顿法、拟牛顿法?
  3. 为什么不用线性回归做分类?
  4. Logistic回归为什么不像线性回归那样用平方损失函数?
  5. Logistic回归的参数为什么不像线性回归那样直接公式求解?
  6. Logistic回归与线性回归有哪些联系?

【做题】

1、Logistic回归损失函数的极大似然推导:西瓜书公式3.27怎么推来的?

DataWhale基础算法梳理第二次作业--逻辑回归

2、Logistic回归损失函数的最优化算法:什么是牛顿法、拟牛顿法?

DataWhale基础算法梳理第二次作业--逻辑回归

3、为什么不用线性回归做分类?

    线性回归的标签值y和特征数据x属于线性对应关系,没有被压缩,因此强行实现分类不太合理。

4、Logistic回归为什么不像线性回归那样用平方损失函数?

   逻辑回归是解决的分类问题,而平方损失函数一般是评估回归问题的。

5、Logistic回归的参数为什么不像线性回归那样直接公式求解?

   逻辑回归函数是非线性的,损失函数较线性回归要复杂,回归参数不便于直接求解。

6、Logistic回归与线性回归有哪些联系?

    逻辑回归是基于线性回归进行非线性变换而来的,直观上是对标签值y的取值范围进行了压缩,控制在(0,1)范围内,使其符合概率定义。