凸优化学习[一] | 预备知识:凸函数

对于任意 x1,x2Rnx_1,x_2\in \mathbb{R} ^n ,且满足α+β=1,α0,β0\alpha + \beta = 1,\alpha \geqslant 0,\beta \geqslant 0,令下式成立的f(x)f(x)称为凸函数。
f(αx1+βx2)αf(x1)+βf(x2)f(\alpha x_1+\beta x_2)\leqslant\alpha f(x_1)+\beta f(x_2)
证明如下:
凸优化学习[一] | 预备知识:凸函数
如图所示,连接 (x1,f(x1))(x_1,f(x_1))(x2,f(x2))(x_2,f(x_2)),得该直线得表达式为
yf(x1)=f(x1)f(x2)x1x2(xx1)y-f(x_1) = \frac{f(x_1)-f(x_2)}{x_1-x_2}(x-x_1)
β=1α\beta = 1-\alpha,将x=αf(x1)+βf(x2)x = \alpha f(x_1) + \beta f(x_2)带入上式得
y=f(x1)f(x2)x1x2[α(x1x2)+(x2x1)]+f(x1)y = \frac{f(x_1)-f(x_2)}{x_1-x_2}[\alpha(x_1-x_2)+(x_2-x_1)]+f(x_1)
=αf(x1)+(1α)f(x2)=\alpha f(x_1) + (1-\alpha)f(x_2)
=αf(x1)+βf(x2)=\alpha f(x_1) + \beta f(x_2)
可见,满足上述性质的函数,都是凸函数。