函数保留凸性的一些运算，限制为一条线

凸优化在学术研究中非常重要，经常遇到的问题是证明凸性。常规证明凸性的方式是二阶导数的黑塞矩阵为半正定，或者在一维函数时二阶导数大于等于零。但很多时候的数学模型并不那么常规、容易求导的，若能够知道一些保留凸性的运算，将能够显著减少证明凸性的难度。这篇博客总结一些这个知识点。

1. 非负加权和

若函数 $f_1,\dots ,f_m$ 为凸函数，参数 $w_1,\dots ,w_m$ 非负，则函数
$$f=w_1{f}_1+\cdots +w_m{f}_m$$
为凸函数。

这可以推广到无限加权和的情况，若函数 $f(x,y)$ 对于 $y\in \mathcal{A}$ 的每个值都是 $x$ 的凸函数，并且 $w(y)\ge 0$，那么函数
$$g(x)={\int }_{\mathcal{A}}w(y)f(x,y)dy$$

也是凸函数。（只要积分存在，即 ${\int }_{\mathcal{A}}w(y)|f(x,y)|dy<\infty$）

2. 限制为一条线

凸函数限制为一条线线（restriction to a line），几何意义是凸函数对某条线（这条线为：$x+tv$）与定义域的交集上的点取函数值：对于凸函数 $f(x)$，对于它定义域内的一点 $x$，即 $x\in \text{dom }f$，另外一个满足 $x+tv\in \text{dom }f$ 的点 $v$，那么函数

$$g(t)=f(x+tv)$$

是关于 $t$ 的凸函数。

举例， $f(x,y)=x^2+y^2$ 为一个凸函数，它的图像为：

若 $x=(0,0)$, $v=(1,2)$, $f(x+tv)=2t^2$，图像为：

看到一些资料说，限制为一条线相当于一个函数竖截面与函数图像交点形成的那条线，如下：

但似乎并不完全是，这条线的形状跟 $x$, $v$ 的取值有关，这在一维函数时特别明显，但都是凸的。

例如，若 $f(x)=x^2$，取 $x=0,v=2$，则 $g(t)=4t^2$，图像如下：

有一个定理：

$f(x)$ 为凸函数，当且仅当对任何 $x\in \text{dom}f$, $x+tv\in \text{dom}f$, $g(t)=f(x+tv)$ 都为凸函数。

证明：
假设 $g(t)$ 为凸函数，即对于 $0\le \alpha \le 1$，有
$$\begin{array}{rl}\iff & \alpha g(t_1)+(1-\alpha )g(t_2)\le g(\alpha t_1+(1-\alpha )t_2)\\ \iff & \alpha f(x+t_{1}v)+(1-\alpha )f(x+t_{2}v)\le f(x+(\alpha t_1+(1-\alpha )t_2)v)\end{array}$$
令 $x=x_1,t_1=0,t_2=1,v=x_2-x_1$,
$$\begin{array}{rl}\iff & \alpha f(x_1)+(1-\alpha )f(x_2)\le f(\alpha x_1+(1-\alpha )x_2)\\ \iff & f(x)\text{ 为凸函数}\end{array}$$
$\square$