1. GAN 《Generative Adversarial Nets》

Ian J. Goodfellow, Jean Pouget-Abadie, Yoshua Benjio etc.

https://dl.acm.org/doi/10.5555/2969033.2969125

1.1 相关概念

生成模型：学习得到联合概率分布$P(x,y)$,即特征x和标签y同时出现的概率，然后可以求条件概率分布和其他概率分布。学习到的是数据生成的机制。

判别模型: 学习得到条件概率分布$P(y|x)$，即在特征x出现的情况下标记y出现的概率

学习一个分布和近似一个分布？

1.2 公式理解

GAN的似然函数（损失函数还要加上一个负号哦）：
$$\underset{G}{\min }\underset{D}{\max }V(D,G)=E_{x\sim P_{data}(x)}[logD(x)]+E_{z\sim p_z(z)}[log(1-D(G(z)))]\text{\hspace{1em}(1.1)}$$

为了学习数据x的分布$p_g$，定义了一个含有噪声的变量分布$p_z(z)$;V是评分方程（这个值是越大越好的），G是一个生成器，D是一个判别器；训练D最大化真实数据和生成数据的区别，训练G最小化真实数据和生成数据的区别；

注意这个公式有两项，第一项是指是否能正确识别真实的数据；第二项是指是否能够识别生成的数据；
(1) 完美D

1. 当$D(x)$完美识别真实数据和生成数据，$E_{x\sim P_{data}(x)}[logD(x)]$趋近于1，而$E_{z\sim p_z(z)}[log(1-D(G(z)))]$趋近于0，整体趋近于1.
2. 当$D$不完美的时候，由于存在$log$会使得两项都是一个负数；那训练的目的就是使得这个负数尽量小
3. 因此需要最大化判别器带来的值，来使得判别器D最佳。

(2) 完美G

1. G只和$E_{z\sim p_z(z)}[log(1-D(G(z)))]$相关，如果G完美忽悠D的时候，$E_{z\sim p_z(z)}[log(1-D(G(z)))]$输出的结果就是负无穷；
2. 当不是那么完美的时候，输出的值就是一个负数；我们目的是使得这个输出尽量小，以使得生成器最佳。
3. 所以需要最小化生成器带来值$E_{z\sim p_z(z)}[log(1-D(G(z)))]$

训练过程

训练D说明

生成器生成的数据就是V(G,D)的第二项的输入：$g(z)=x$,那么对z的求和就可以变为对x的求和。
将$V(G,D)$展开成积分/求和的形式
$$\begin{array}{rl}V(G,D)& ={\int }_x{p}_{data}\cdot log(D(x))dx+{\int }_z{p}_z(z)\cdot log(1-D(g(z)))\\ & ={\int }_x{p}_{data}\cdot log(D(x))+p_g(x)\cdot log(1-D(x))dx\end{array}\text{\hspace{1em}(1.2)}$$
对于 任意的 ( a , b ) ∈ R 2 \ { 0 , 0 } (a,b) \in R^2 \backslash \{0,0\} (a,b)∈R2\{0,0},函数$y\to alog(y)+blog(1-y)$是一个凸函数，我们需要求这个函数的最大值，就求导数
$$\begin{array}{r}\frac{a}{y}+\frac{b}{1-y}=0\\ y=\frac{a}{a+b}\end{array}$$
则在$y=\frac{a}{a+b}$的时候有最大值，对应于判别器的概率即为：
$$D_G^{\ast }(x)=\frac{p_{data}(x)}{p_{data}(x)+p_g(x)}$$
将最优解带入到价值函数之中
$$\begin{array}{rl}C(G)& =\underset{D}{\max }V(G,D)\\ & =E_{x\sim p_{data}}[log{D}_G^{\ast }(x)]+E_{z\sim p_z}[log(1-D_G^{\ast }(G(z)))]\\ & =E_{x\sim p_{data}}[log\frac{p_{data}(x)}{p_{data}(x)+p_g(x)}]+E_{x\sim p_g}[log\frac{p_g(x)}{p_{data}(x)+p_g(x)}]\end{array}\text{\hspace{1em}(1.3)}$$
根据KL散度和JS散度的定义，可以将上面的公式改写为
$$\begin{array}{rl}C(G)& =KL(P_{data}||\frac{p_{data}+p_g}{2})+KL(p_g||\frac{p_{data}+p_g}{2})-log(4)\\ & =2\cdot JSD(p_{data}||p_g)-log(4)\end{array}\text{\hspace{1em}(1.4)}$$

注意$\frac{p_{data}+p_g}{2}$这里除以2是为了保证是一个分布（即概率的积分是等于1的）

在固定D训练G的时候，我们就是为了最小化这个$C(G)$，根据上面推导：
所以给出结论：当$p_g=p_d$时，$D_G^{\ast }(x)=\frac{1}{2}$,因此$C(G)=log\frac{1}{2}+\frac{1}{2}=-log4$，可以得到最小的$C(G)$

1.3 图片理解

绿色是生成的分布；黑色是真实分布；蓝色是判别器的分布

(b)表示训练辨别器，使得辨别器可以非常好地区分二者
©表示训练生成器，继续欺骗判别器

1.4 熵、交叉熵、KL散度、JS散度

1. 熵(Entropy)
   K-L散度源于信息论，常用的信息度量单位为熵(Entropy)
   $$H=-\sum _{i=1}^{N}p(x_i)\cdot logp(x_i)$$
   注意这个对数没有确定的底数（可以使2、e或者10）。

熵度量了数据的信息量，可以帮助我们了解用概率分布近似代替原始分布的时候我们到底损失了多少信息；但问题是如何将熵值压缩到最小值，即如何编码可以达到最小的熵（存储空间最优化）。

2. 交叉熵 : 量化两个概率分布之间的差异
   $$H(p,q)=-\sum _{x}p(x)logq(x)$$

3. KL散度（kullback-Leibler divergence）:量化两种概率分布 P和Q之间差异的方式，又成为相对熵
   将熵的定义公式稍加修改就可以得到K-L散度的定义公式：
   $$D_{KL}(P||Q)=\sum _{i=1}^{N}p(x_i)\cdot (logp(x_i)-logq(x_i))=\sum _{i=1}^{N}p(x_i)\cdot log\frac{p(x_i)}{q(x_i)}$$
   其中$p$和$q$分别表示数据的原始分布和近似的概率分布。

根据公式所示，K-L散度其实是数据的原始分布p和近似分布之间的对数差的期望。如果用2位底数计算，K-L散度表示信息损失的二进制位数,下面用期望表示式展示：
$$D_{KL}(P||Q)=E[logp(x)-q(x)]$$

注意:

• 从散度的定义公式中可以看出其不符合对称性（距离度量应该满足对称性）
• KL散度非负性

4. JS散度(Jensen-shannon divergence)
   由于K-L散度是非对称的，所以对其进行修改，使得其能够对称，称之为 JS散度
   (1) 设 $$M=\frac{1}{2}(P+Q)$$,则：
   $$D_{JS}(P||Q)=\frac{1}{2}{D}_{KL}(P||M)+\frac{1}{2}{D}_{KL}(Q||M)$$
   (2) 将KL散度公式带入上面
   $$D_{JS}=\frac{1}{2}\sum _{i=1}^{N}p(x_i)log(\frac{p(x_i)}{\frac{p(x_i)+q(x_i)}{2}})+\frac{1}{2}\sum _{i=1}^{N}q(x_i)\cdot log(\frac{q(x_i)}{\frac{p(x_i)+q(x_i)}{2}})$$
   (3) 将$log$中的$\frac{1}{2}$放到分子上
   $$D_{JS}=\frac{1}{2}\sum _{i=1}^{N}p(x_i)log(\frac{2p(x_i)}{p(x_i)+q(x_i)})+\frac{1}{2}\sum _{i=1}^{N}q(x_i)\cdot log(\frac{2q(x_i)}{p(x_i)+q(x_i)})$$
   (4) 提出2
   $$D_{JS}=\frac{1}{2}\sum _{i=1}^{N}p(x_i)log(\frac{p(x_i)}{p(x_i)+q(x_i)})+\frac{1}{2}\sum _{i=1}^{N}q(x_i)\cdot log(\frac{q(x_i)}{p(x_i)+q(x_i)})+log(2)$$
   注意这里是因为$\sum p(x)=\sum q(x)=1$

JS散度的缺陷:当两个分布完全不重叠的时候，几遍两个分布的中心离得很近，其JS散度都是一个常数，所以其获取的梯度是0，是没有办法进行更新的。而两个分布没有重叠的原因：从理论和经验而言，真实的数据分布其实是一个低维流形（不具备高维特征），而是存在一个嵌入在高维度的低维空间内。由于维度存在差异，数据很可能不存在分布的重合。

1.5 其他相关（正在补充！）

---