20191009——欠拟合与过拟合
训练集表现的好,测试集不好,过拟合
欠拟合了
过拟合
欠拟合:解决方案 增加数据 增加特征
过拟合:
减少高次项特征的影响
L1正则化
L2正则化 更常用
损失函数+ 惩罚系数 * 惩罚项
L1的也是损失函数+惩罚项 但是L1的惩罚项是w的绝对值
LASSO
RIDGE 岭回归
训练集表现的好,测试集不好,过拟合
欠拟合了
过拟合
欠拟合:解决方案 增加数据 增加特征
过拟合:
减少高次项特征的影响
L1正则化
L2正则化 更常用
损失函数+ 惩罚系数 * 惩罚项
L1的也是损失函数+惩罚项 但是L1的惩罚项是w的绝对值
LASSO
RIDGE 岭回归