f-GAN简介:GAN模型的生产车间

栏目: 数据库 · 发布时间: 5年前

内容简介:今天介绍一篇比较经典的工作,作者命名为f-GAN,他在文章中给出了通过一般的$f$散度来构造一般的GAN的方案。可以毫不夸张地说,这论文就是一个GAN模型的“生产车间”,它一般化的囊括了很多GAN变种,并且可以启发我们快速地构建新的GAN变种(当然有没有价值是另一回事,但理论上是这样)。整篇文章对$f$散度的处理事实上在机器学习中被称为“局部变分方法”,它是一种非常经典且有用的估算技巧。事实上本文将会花大部分篇幅介绍这种估算技巧在$f$散度中的应用结果。至于GAN,只不过是这个结果的基本应用而已。首先我们

今天介绍一篇比较经典的工作,作者命名为f-GAN,他在文章中给出了通过一般的$f$散度来构造一般的GAN的方案。可以毫不夸张地说,这论文就是一个GAN模型的“生产车间”,它一般化的囊括了很多GAN变种,并且可以启发我们快速地构建新的GAN变种(当然有没有价值是另一回事,但理论上是这样)。

整篇文章对$f$散度的处理事实上在机器学习中被称为“局部变分方法”,它是一种非常经典且有用的估算技巧。事实上本文将会花大部分篇幅介绍这种估算技巧在$f$散度中的应用结果。至于GAN,只不过是这个结果的基本应用而已。

首先我们还是对$f$散度进行基本的介绍。所谓$f$散度,是KL散度的一般化:

\begin{equation}\mathcal{D}_f(P\Vert Q) = \int q(x) f\left(\frac{p(x)}{q(x)}\right)dx\label{eq:f-div}\end{equation}

注意,按照通用的约定写法,括号内是$p/q$而不是$q/p$,大家不要自然而言地根据KL散度的形式以为是$q/p$。

可以发现,这种形式能覆盖我们见过的很多概率分布之间的度量了,这里直接把论文中的表格搬进来(部分)

$$\begin{array}{c|c|c}\hline

\textbf{距离名称} & \textbf{计算公式} & \textbf{对应的}f\\

\hline

\text{总变差} & \frac{1}{2}\int | p(x) - q(x)| dx & \frac{1}{2}|u - 1|\\

\hline

\text{KL散度} & \int p(x)\log \frac{p(x)}{q(x)} dx & u \log u\\

\hline

\text{逆KL散度} & \int q(x)\log \frac{q(x)}{p(x)} dx & - \log u\\

\hline

\text{Pearson }\chi^2 & \int \frac{(q(x) - p(x))^{2}}{p(x)} dx & (u - 1)^{2}\\

\hline

\text{Neyman }\chi^2 & \int \frac{(p(x) - q(x))^{2}}{q(x)} dx & \frac{(1 - u)^{2}}{u}\\

\hline

\text{Hellinger距离} & \int \left(\sqrt{p(x)} - \sqrt{q(x)}\right)^{2} dx & (\sqrt{u} - 1)^{2}\\

\hline

\text{Jeffrey距离} & \int (p(x) - q(x))\log \left(\frac{p(x)}{q(x)}\right) dx & (u - 1)\log u\\

\hline

\text{JS散度} & \frac{1}{2}\int p(x)\log \frac{2 p(x)}{p(x) + q(x)} + q(x)\log \frac{2 q(x)}{p(x) + q(x)} dx & -(u + 1)\log \frac{1 + u}{2} + u \log u\\

\hline

\end{array}$$

上面列举了一堆的分布度量以及对应的$f$,那么一个很自然的问题是这些$f$的共同特点是什么呢?

答案是:

1、它们都是正实数到实数的映射($\mathbb{R}_+ \to \mathbb{R}$);
2、$f(1)=0$;
3、它们都是凸函数。

第一点是常规的,第二点$f(1)=0$保证了$\mathcal{D}_f(P\Vert P)=0$,那第三点凸函数是怎么理解呢?其实它是凸函数性质的一个最基本的应用,因为凸函数有一个非常重要的性质(詹森不等式):

\begin{equation}\mathbb{E}\big[f(x)\big]\geq f\big(\mathbb{E}[x]\big)\label{eq:tuhanshu-xingzhi}\end{equation}

也就是“函数的平均大于平均的函数”,有些教程会直接将这个性质作为凸函数的定义。而如果$f(u)$是光滑的函数,我们一般会通过二阶导数$f''(u)$是否恒大于等于0来判断是否凸函数。

利用$\eqref{eq:tuhanshu-xingzhi}$,我们有

\begin{equation}\begin{aligned}\int q(x) f\left(\frac{p(x)}{q(x)}\right)dx =& \mathbb{E}_{x\sim q(x)} \left[f\left(\frac{p(x)}{q(x)}\right)\right]\\

\geq& f\left(\mathbb{E}_{x\sim q(x)} \left[\frac{p(x)}{q(x)}\right]\right)\\

=& f\left(\int q(x) \frac{p(x)}{q(x)}dx\right)\\

=& f\left(\int p(x)dx\right)\\

=& f(1) = 0

\end{aligned}\end{equation}

也就是说,这三个条件保证了$f$散度是非负,而且当两个分布一模一样时$f$散度就为0,这使得$\mathcal{D}_f$可以用来简单地度量分布之间的差异性。当然,$f$散度原则上并没有保证$P\neq Q$时$\mathcal{D}_f(P\Vert Q) \gt 0$。但通常我们会选择严格凸的$f$(即$f''(u)$恒大于0),那么这时候可以保证$P\neq Q$时$\mathcal{D}_f(P\Vert Q)\gt 0$,也就是说这时候有$\mathcal{D}_f(P\Vert Q)=0\,\Leftrightarrow\,P=Q$。(注:即便如此,一般情况下$\mathcal{D}_f(P\Vert Q)$仍然不是满足公理化定义的“距离”,不过这个跟本文主题关系不大,这里只是顺便一提。)

现在从比较数学的角度讨论一下凸函数,一般地,记凸函数的定义域为$\mathbb{D}$(对于本文来说,$\mathbb{D}=\mathbb{R}_+$)。选择任意一个点$\xi$,我们求$y=f(u)$在$u=\xi$处的切线,结果是

\begin{equation}y = f(\xi) + f'(\xi)(u - \xi)\end{equation}

考虑两者的差函数

\begin{equation}h(u) = f(u) - f(\xi) - f'(\xi)(u - \xi)\end{equation}

所谓凸函数,直观理解,就是它的图像总在它的(任意一条)切线上方,因此对于凸函数来说下式恒成立

\begin{equation}f(u) - f(\xi) - f'(\xi)(u - \xi)\geq 0\end{equation}

整理成

\begin{equation}f(u) \geq f(\xi) - f'(\xi) \xi + f'(\xi)u\end{equation}

因为不等式是恒成立的,并且等号是有可能取到的,因此可以导出

\begin{equation}f(u) = \max_{\xi\in\mathbb{D}}\big\{f(\xi) - f'(\xi) \xi + f'(\xi)u\big\}\end{equation}

换新的记号,记$t=f'(\xi)$,并从中反解出$\xi$(对于凸函数,这总能做到,读者可以自己尝试证明),然后记

\begin{equation}g(t) = - f(\xi) + f'(\xi) \xi\end{equation}

那么就有

\begin{equation}f(u) = \max_{t\in f'(\mathbb{D})}\big\{t u - g(t)\big\}\end{equation}

这里的$g(t)$就称为$f(u)$的共轭函数。留意花括号里边的式子,给定$f$后,$g$也确定了,并且整个式子关于$u$是线性的。所以总的来说,我们做了这样的一件事情:

对一个凸函数给出了线性近似,并且通过最大化里边的参数就可以达到原来的值。

注意给定$u$,我们都要最大化一次$t$才能得到尽可能接近$f(u)$的结果,否则随便代入一个$t$,只能保证得到下界,而不能确保误差大小。所以它称为“局部变分方法”,因为要在每一个点(局部)处都要进行最大化(变分)。这样一来,我们可以理解为$t$实际上是$u$的函数,即

\begin{equation}f(u) = \max_{T\text{是值域为}f'(\mathbb{D})\text{的函数}}\big\{T(u) u - g(T(u))\big\}\label{eq:max-conj}\end{equation}

上述讨论过程实际上已经给出了计算凸共轭的方法,在这里我们直接给出上表对应的凸函数的共轭函数。

$$\begin{array}{c|c}\hline

f(u) & \textbf{对应的共轭}g(t) & f'(\mathbb{D}) & 激活函数\\

\hline

\frac{1}{2}|u - 1| & t & \left[-\frac{1}{2},\frac{1}{2}\right] & \frac{1}{2}\tanh(x)\\

\hline

u \log u & e^{t-1} & \mathbb{R} & x\\

\hline

- \log u & -1 - \log(-t) & \mathbb{R}_- & -e^{x}\\

\hline

(u - 1)^{2} & \frac{1}{4}t^2+t & (-2,+\infty) & e^x-2\\

\hline

\frac{(1 - u)^{2}}{u} & 2 - 2\sqrt{1-t} & (-\infty, 1) & 1-e^x\\

\hline

(\sqrt{u} - 1)^{2} & \frac{t}{1-t} & (-\infty, 1) & 1-e^x\\

\hline

(u - 1)\log u & W(e^{1-t})+\frac{1}{W(e^{1-t})}+t-2 & \mathbb{R} & x\\

\hline

-(u + 1)\log \frac{1 + u}{2} + u \log u & -\log(2-e^t) & (-\infty,\log 2) & -\log(2-e^x)\\

\hline

\end{array}$$

(注:这里的$W$为 朗伯W函数 。)

由上述推导,我们就可以给出f散度的估算公式,并且进一步给出f-GAN的一般框架。

计算$f$散度有什么困难呢?根据定义$\eqref{eq:f-div}$,我们同时需要知道两个概率分布$P,Q$才可以计算两者的$f$散度,但事实上在机器学习中很难做到这一点,有时我们最多只知道其中一个概率分布的解析形式,另外一个分布只有采样出来的样本,甚至很多情况下我们两个分布都不知道,只有对应的样本(也就是说要比较两批样本之间的相似性),所以就不能直接根据$\eqref{eq:f-div}$来计算$f$散度了。

结合$\eqref{eq:f-div}$和$\eqref{eq:max-conj}$,我们得到

\begin{equation}\begin{aligned}\mathcal{D}_f(P\Vert Q) =& \max_{T}\int q(x) \left[\frac{p(x)}{q(x)}T\left(\frac{p(x)}{q(x)}\right)-g\left(T\left(\frac{p(x)}{q(x)}\right)\right)\right]dx\\

=& \max_{T}\int\left[p(x)\cdot T\left(\frac{p(x)}{q(x)}\right)-q(x)\cdot g\left(T\left(\frac{p(x)}{q(x)}\right)\right)\right]dx\end{aligned}\end{equation}

将$T\left(\frac{p(x)}{q(x)}\right)$记为整体$T(x)$,那么就有

\begin{equation}\mathcal{D}_f(P\Vert Q) = \max_{T}\Big(\mathbb{E}_{x\sim p(x)}[T(x)]-\mathbb{E}_{x\sim q(x)}[g(T(x))]\Big)\label{eq:f-div-e}\end{equation}

式$\eqref{eq:f-div-e}$就是估计$f$散度的基础公式了。意思就是说:分别从两个分布中采样,然后分别计算$T(x)$和$g(T(x))$的平均值,优化$T$,让它们的差尽可能地大,最终的结果就是$f$散度的近似值了。显然$T(x)$可以用足够复杂的神经网络拟合,我们只需要优化神经网络的参数。

注意在对凸函数的讨论中,我们在最大化目标的时候,对$T$的值域是有限制的。因此,在$T$的最后一层,我们必须设计适当的激活函数,使得$T$满足要求的值域。当然激活函数的选择不是唯一的,参考的激活函数已经列举在前表。注意,尽管理论上激活函数的选取是任意的,但是为了优化上的容易,应该遵循几个原则:

1、对应的定义域为$\mathbb{R}$,对应的值域为要求值域(边界点可以忽略);
2、最好选择全局光滑的函数,不要简单地截断,例如要求为$\mathbb{R}_+$的化,不要直接用$relu(x)$,可以考虑的是$e^x$或者$\log(1+e^x)$;
3、注意式$\eqref{eq:f-div-e}$的第二项包含了$g(T(x))$,也就是$g$和$T$的复合计算,因此选择激活函数时,最好使得它与$g$的复合运算比较简单。

好了,说了那么久,几乎都已经到文章结尾了,似乎还没有正式说到GAN。事实上,GAN可以算是整篇文章的副产物而已。

GAN希望训练一个生成器,将高斯分布映射到我们所需要的数据集分布,那就需要比较两个分布之间的差异了,经过前面的过程,其实就很简单了,随便找一种$f$散度都可以了。然后用式$\eqref{eq:f-div-e}$对$f$散度进行估计,估计完之后,我们就有$f$散度的模型了,这时候生成器不是希望缩小分布的差异吗?最小化$f$散度就行了。所以写成一个表达式就是

\begin{equation}\min_G\max_{T}\Big(\mathbb{E}_{x\sim p(x)}[T(x)]-\mathbb{E}_{x=G(z),z\sim q(z)}[g(T(x))]\Big)\label{eq:f-div-gan}\end{equation}

就这样完了~

需要举几个例子?好吧,先用JS散度看看。把所有东西式子一步步代进去,你会发现最终结果是(略去了$\log 2$的常数项)

\begin{equation}\min_G\max_{D}\Big(\mathbb{E}_{x\sim p(x)}[\log D(x)] + \mathbb{E}_{x=G(z),z\sim q(z)}[\log(1-D(x))]\Big)\end{equation}

其中$D$用$\sigma(x)=1/(1+e^{-x})$激活。这就是最原始版本的GAN了。

用Hellinger距离试试?结果是

\begin{equation}\min_G\max_{D}\Big(-\mathbb{E}_{x\sim p(x)}[e^{D(x)}] - \mathbb{E}_{x=G(z),z\sim q(z)}[e^{-D(x)}]\Big)\end{equation}

这里的$D(x)$是线性激活。这个貌似还没有命名?不过论文中已经对它做过实验了。

那用KL散度呢?结果是

\begin{equation}\min_G\max_{D}\Big(\mathbb{E}_{x\sim p(x)}[D(x)] - \mathbb{E}_{x=G(z),z\sim q(z)}[e^{D(x)-1}]\Big)\end{equation}

这里的$D(x)$也是线性激活。

好吧,不再距离了。其实这些$f$散度本质上都差不多,看不到效果差别有多大。不过可以注意到,JS散度和Hellinger距离都是对称的、有界的,这是一个非常好的性质,以后我们会用到。

说白了,本文主要目的还是介绍$f$散度及其局部变分估算而已~所以大部分还是理论文字,GAN只占一小部分。

当然,经过一番折腾,确实可以达到“GAN生产车间”的结果(取决于你有多少种$f$散度),这些新折腾出来的GAN可能并不像我们想象中的GAN,但它们确实在优化$f$散度。不过,以往标准GAN(对应JS散度)有的问题,其实$f$散度照样会有,因此f-GAN这个工作更大的价值在于“统一”,从生成模型的角度,并没有什么突破。

转载到请包括本文地址: https://kexue.fm/archives/6016

如果您还有什么疑惑或建议,欢迎在下方评论区继续讨论。

如果您觉得本文还不错,欢迎/本文。打赏并非要从中获得收益,而是希望知道科学空间获得了多少读者的真心关注。当然,如果你无视它,也不会影响你的阅读。再次表示欢迎和感谢!


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

Java 8实战

Java 8实战

厄马(Raoul-Gabriel Urma)、弗斯科(Mario Fusco)、米克罗夫特(Alan Mycroft) / 陆明刚、劳佳 / 人民邮电出版社 / 2016-4-1 / CNY 79.00

本书全面介绍了Java 8 这个里程碑版本的新特性,包括Lambdas、流和函数式编程。有了函数式的编程特性,可以让代码更简洁,同时也能自动化地利用多核硬件。全书分四个部分:基础知识、函数式数据处理、高效Java 8 编程和超越Java 8,清晰明了地向读者展现了一幅Java 与时俱进的现代化画卷。一起来看看 《Java 8实战》 这本书的介绍吧!

XML、JSON 在线转换
XML、JSON 在线转换

在线XML、JSON转换工具

XML 在线格式化
XML 在线格式化

在线 XML 格式化压缩工具

Markdown 在线编辑器
Markdown 在线编辑器

Markdown 在线编辑器