scikit-learn 线性回归算法库小结

关于scikit-learn 线性回归算法库小结

1. LinearRegression
2. Ridge
3. RidgeCV
4.Lasso
5. LassoCV
6. LassoLars
7. LassoLarsCV
8. LassoLarsIC
9. ElasticNet
10. ElasticNetCV
11. OrthogonalMatchingPursuit
12. OrthogonalMatchingPursuitCV
*13. MultiTaskLasso*
*14. MultiTaskLassoCV*
*15. MultiTaskElasticNet*
*16. MultiTaskElasticNetCV*
17. BayesianRidge
18. ARDRegression

链接: scikit-learn 线性回归算法库小结.
非常感谢刘建平老师对以下内容的总结！

scikit-learn对于线性回归提供了比较多的类库，这些类库都可以用来做线性回归分析，本文就对这些类库的使用做一个总结，重点讲述这些线性回归算法库的不同和各自的使用场景。

线性回归的目的是要得到输出向量Y和输入特征X之间的线性关系，求出线性回归系数θ,也就是 Y=Xθ。其中Y的维度为mx1，X的维度为mxn，而θ的维度为nx1。m代表样本个数，n代表样本特征的维度。

为了得到线性回归系数θ，我们需要定义一个损失函数，一个极小化损失函数的优化方法，以及一个验证算法的方法。损失函数的不同，损失函数的优化方法的不同，验证方法的不同，就形成了不同的线性回归算法。scikit-learn中的线性回归算法库可以从这这三点找出各自的不同点。理解了这些不同点，对不同的算法使用场景也就好理解了。