AI_04_逻辑回归详解和应用_01_Lasso_ElasticNet_PolynomialFeatures

昨天聊到多元线性回归，聊到Ridge Regression

regularizer 正则化，防止过拟合

问题：（1）多元线性回归的损失函数/目标函数是怎么来的？一步步推倒。。。

（2）Ridge Regression的损失函数是什么，有个带α 的提高泛化能力的项

（3）Lasso Regression的损失函数是什么

敲黑板：其实在工作过程中是不需要自己实现Ridge Regression或Lasso Regression的损失函数的，scikit-learn已经帮我们实现好了，我们只需要去调用就可以了！！！

Elastic Net是做回归的

 

做机器学习，将数据带入到算法之前都会做特征工程，做一些数据的预处理，算法的选择首选Ridge Regression 然后是Elastic Net 最后是Lasso。。。原生的多元线性回归一般就不会去用了！！！

polynomimialFeatures  多项式的特征

polynomimialFeatures 是在preprocessing（数据处理）这个包中，不是做回归的，有点像归一化预处理

maintain 保持

paraboloid 抛物线体，抛物面

polynomimialFeatures 是在preprocessing（数据处理）这个包中，不是做回归的，有点像归一化预处理

而

（1）Ridge Regression的损失函数是什么，有个带α 的提高泛化能力的项，是做回归的

（2）Elastic Net是做回归的

（3）Lasso Regression的损失函数是什么，是做回归的