正则化和范数

L1范数: 

||X||1=(|x1|+|x2|+...+|xn|)

L2范数: 

||X||2=(|x1|2+|x2|2+...+|xn|2)12

特别的,L0范数:指向量中非零元素的个数。无穷范数:指向量中所有元素的最大绝对值。

L1正则化和L2正则化可以看做是损失函数的惩罚项。所谓『惩罚』是指对损失函数中的某些参数做一些限制。对于线性回归模

型,使用L1正则化的模型建叫做Lasso回归,使用L2正则化的模型叫做Ridge回归(岭回归)。

正则化和范数

从图中可以看出,L1范数的交点一般出现在坐标轴上,这时候w1或w2=0。