ZhengYang's Blog

Machine Learning & Data Mining

变分推断

变分推断为什么要进行推断?模型分为判别模型和生成模型,判别模型可以直接用来预测,但生成模型得到的是联合概率分布,因此需要进行概率推断,来进行预测。 概率推断的任务是,计算某个函数的期望、或计算边缘概率分布、或条件概率分布等。 近似推断分两个方向:抽样(MCMC,Gibbs)、确定性近似(Variational Inference,variational Bayesian)。 变分法:从某个函......