对数凹函数和对数凸函数

定义

如果对所有的 $x\in \mathrm{dom}f$ 有 $f(x)>0$ 且 $\log f$ 是凹函数，则称函数 $f$ 是对数凹函数。如果 $\log f$ 是凸函数，则称函数 $f$ 是对数凸函数。

因此，函数 $f$ 是对数凸的，等价于函数 $1/f$ 是对数凹的。

对数凹凸性可以不借助对数直接表达。考虑函数 $f:{\mathbf{R}}^n\to \mathbf{R}$，其定义域是凸集，且对于 $\mathrm{\forall }x\in \mathrm{dom}f$ 有 $f(x)>0$，则函数是对数凹的，当且仅当对 $\mathrm{\forall }x,y\in \mathrm{dom}f$，$0⩽\theta ⩽1$，有

$$f(\theta x+(1-\theta )y)⩾f(x{)}^{\theta }f(y{)}^{1-\theta }$$

特别地，若令 $\theta ={\displaystyle \frac{1}{2}}$，则可以得到如下结论：对数凹函数在两点中间的函数值不小于这两点函数的几何平均值，即

$$f({\displaystyle \frac{x+y}{2}})⩾\sqrt{f(x)f(y)}$$

根据函数复合规则，我们知道如果函数 $h$ 是凸函数，则函数 $e^h$ 是凸函数，因此对数凸函数是凸函数。类似地，非负凹函数是对数凹函数。此外，由于对数函数是单调增函数，所以对数凸函数是拟凸函数，对数凹函数是拟凹函数。

举例

• 仿射函数 $f(x)=a^{\mathrm{\top }}x+b$ 在 $\{x\mid a^{\mathrm{\top }}x+b>0\}$ 上是对数凹函数。

• 幂函数 $f(x)=x^a$ 在 ${\mathbf{R}}_{++}$ 上当 $a⩽0$ 时是对数凸函数，当 $a⩾0$ 时是对数凹函数。

• 指数函数 $f(x)=e^{ax}$ 既是对数凸函数也是对数凹函数。

• Gauss 概率密度函数的累积分布函数是对数凹函数。

$$\mathrm{\Phi }(x)={\displaystyle \frac{1}{\sqrt{2\pi }}}{\int }_{-\mathrm{\infty }}^x{e}^{-u^2/2}\mathrm{d}u$$

• $\mathrm{\Gamma }$ 函数在 $[1,+\mathrm{\infty })$ 上是对数凸函数。

$$\mathrm{\Gamma }(x)={\int }_0^{\mathrm{\infty }}{u}^{x-1}{e}^{-u}\mathrm{d}u$$

• 行列式 $detX$ 在 ${\mathbf{S}}_{++}^n$ 上是对数凹函数。

• 行列式与迹之比 $detX/\mathrm{tr}X$ 在 ${\mathbf{S}}_{++}^n$ 上是对数凹函数。

相关性质

二次可微的对数凸/凹函数

假设函数 $f$ 是二次可微的，并且 $\mathrm{dom}f$ 是凸的，那么

$${\mathrm{\nabla }}^2\log f(x)={\displaystyle \frac{1}{f(x)}}{\mathrm{\nabla }}^{2}f(x)-{\displaystyle \frac{1}{f(x{)}^2}}\mathrm{\nabla }f(x)\mathrm{\nabla }f(x{)}^{\mathrm{\top }}$$

因此，判断函数 $f$ 的对数凹凸性，只需要分别令二阶导数大于零（凸）和小于零（凹），即

$$\begin{array}{r}f(x){\mathrm{\nabla }}^{2}f(x)⪰\mathrm{\nabla }f(x)\mathrm{\nabla }f(x{)}^{\mathrm{\top }}\\ f(x){\mathrm{\nabla }}^{2}f(x)⪯\mathrm{\nabla }f(x)\mathrm{\nabla }f(x{)}^{\mathrm{\top }}\end{array}$$

乘积、求和与积分

乘积运算能够保持函数的对数凸性，这是因为对数运算和加法运算是能够保持函数的凸性。

$$\begin{array}{rl}h(x)& =f(x)g(x)\\ \log h(x)& =\log f(x)+\log g(x)\end{array}$$

然而，求和运算并不能够绝对保证函数的对数凸性。对数凹函数的和一般不是对数凹函数，而对数凸函数的和仍然是对数凸函数。

因此，对数凸函数的积分也是对数凸函数。例如，非负函数 $p(x)$ 的 Laplace 变换：

$$P(z)=\int p(x)e^{-z^{\mathrm{\top }}x}\mathrm{d}x$$

对数凹函数的积分

对数凹函数的积分仍然是对数凹函数需要满足如下条件：如果函数 $f:{\mathbf{R}}^n\times {\mathbf{R}}^m\to \mathbf{R}$ 是对数凹函数，那么

$$g(x)=\int f(x,y)\mathrm{d}y$$

是对数凹函数（此时是在 ${\mathbf{R}}^m$ 上求积分）。

这个结论具有重要意义。它可以用来证明对数凹性对卷积运算也是封闭的，即如果函数 $f$ 和 $g$ 在 ${\mathbf{R}}^m$ 上是对数凹函数，则它们的卷积

$$(f\ast g)(x)=\int f(x-y)g(y)\mathbf{d}y$$

仍然是对数凹函数。这是因为：1. 乘积是保对数凹凸性的；2. 对数凹函数的积分仍然是对数凹函数。

设 $C\subseteq {\mathbf{R}}^n$ 是凸集，$w$ 是 ${\mathbf{R}}^n$ 上的随机向量，设其具有对数凹性的概率密度函数 $p$，则函数

$$\begin{array}{rl}f(x)& =\mathrm{prob}(x+w\in C)\\ & =\int g(x+w)f(w)\mathrm{d}w\end{array}$$

是 $x$ 的对数凹函数，其中 $g$ 定义为

$$g(u)=\{\begin{array}{ll}1& u\in C\\ 0& u\notin C\end{array}$$