变分推断

变分推断是一种用于近似计算复杂概率模型后验分布的概率推断方法。它通过将原问题转化为一个优化问题，降低计算复杂度。变分推断在机器学习、统计学、信息论等领域广泛应用。

为什么叫变分？

"变分"这个词源于函数论中的变分法，它是一种求解泛函极值的方法。变分推断中，我们通过最小化一个距离度量来找到一个近似后验分布，该度量被称为变分距离，因此这种推断方法被称为变分推断。

变分推断的基本思想是通过找到一个近似分布来尽可能地逼近真实后验分布。为此，我们引入了一个参数化的分布族q(z;\lambda)，其中z是隐变量，\lambda是待求参数。我们的目标是找到一个分布q(z;\lambda)，使得它与真实后验分布p(z|x)的差异最小。 为了度量分布q(z;\lambda)和p(z|x)之间的距离，我们使用变分距离，通常使用KL散度来度量。KL散度是一种衡量两个概率分布之间差异的度量方式。具体地，KL散度可以通过以下公式来计算： KL(q(z;\lambda) || p(z|x)) = \int q(z;\lambda) \log \frac{q(z;\lambda)}{p(z|x)} dz 通过最小化KL散度，我们可以找到使得分布q(z;\lambda)与真实后验分布p(z|x)的差异最小化的参数\lambda。这样，我们可以得到一个近似后验分布，从而进行后续的推断和预测任务。 总之，变分推断的基本思想是通过找到一个参数化的分布族来逼近真实后验分布，并使用KL散度来度量两个分布之间的差异。通过最小化KL散度，我们可以得到一个近似后验分布，从而进行后续的推断任务。

D_{KL}(q(z;\lambda)||p(z|x))=\int q(z;\lambda)\log\frac{q(z;\lambda)}{p(z|x)}dz

注意到KL散度是非负的，当且仅当q(z;\lambda)等于p(z|x)时，KL散度取到最小值0。因此，我们的目标可以转化为最小化KL散度，即：

\lambda^*=\arg\min_{\lambda}D_{KL}(q(z;\lambda)||p(z|x))

但是，由于KL散度是一个难以处理的复杂函数，我们无法直接最小化它。因此，我们需要采用一些近似方法来求解这个问题。

在变分推断中，我们采用一种称为变分下界的技巧来近似KL散度。具体地，我们首先将KL散度分解为：

D_{KL}(q(z;\lambda)||p(z|x))=E_{q(z;\lambda)}[\log q(z;\lambda)-\log p(z,x)]

然后，我们通过引入一个新的分布q(z|x)，并利用Jensen不等式，得到了一个下界：

\log p(x)\ge E_{q(z|x)}[\log p(x,z)-\log q(z|x)]

其中，\log p(x)是数据的边缘概率，p(x,z)是联合概率分布，q(z|x)是近似后验分布。

这个下界被称为变分下界或ELBO（Evidence Lower Bound），可以通过最大化ELBO来优化近似后验分布的参数\lambda：

\lambda^*=\arg\max_{\lambda}E_{q(z|x;\lambda)}[\log p(x,z)-\log q(z|x;\lambda)]

注意到，这个优化问题可以通过梯度下降等优化算法求解。最终，我们得到的近似后验分布q(z|x)可以用于计算各种期望，例如预测、模型选择等。

总之，变分推断是一种基于最小化KL散度的概率推断方法，通过引入变分下界的技巧，利用优化算法来近似计算复杂概率模型的后验分布。