七月算法-12月机器学习--第十六次课笔记—采样和变分
七月算法（julyedu.com）12月机器学习在线班学习笔记http://www.julyedu.com
第一部分 采样
引言
为什么要研究采样？
根据采样结果估算分布的参数，完成参数学习。
前提：模型已经存在，但参数未知；
方法：通过采样的方式，获得一定数量的样本，从而学习该系统的参数。
1 采样算法
现需要对概率密度函数f(x)的参数进行估计，若已知的某概率密度函数g(x)容易采样获得其样本，可以如何估计f(x)的参数？
g(x)很容易获取样本，譬如，高斯，均匀分布等等，用简单地分布g(x)来估计f(x)
1.1 带拒绝采样
1.2 Matropolis-Hastings算法
A, 算法的模型
B，分析MH率
下面证明以上的结论
1.3马尔科夫随机过程的平稳分布（MCMC）
1.3.1 基本的知识
初始概率不同，但经过若干次迭代， π最终稳定收敛在某个分布上。
下面两种写法等价：
则矩阵A行加和为1，则一定结果可以满足全1向量，如上图，则可以判断，（1,1……，1）是A的特征向量，1是A的特征值，
对于某概率分布π，生成一个能够收敛到概率分布π的马尔科夫状态转移矩阵P，则经过有限次迭代，一定可以得到概率分布π。
使用MCMC算法模拟 (Markov Chain Monte Carlo)。
1.3.2 细致平稳条件
则π(x)是马尔科夫过程的平稳分布。上式又被称作细致平稳条件(detailed balance condition) 。
细节上面是稳态的
1.3.4 细致平稳条件和平稳分布的关系
1.3.5 设定接受率（小于1的一个数）
对于
取小于1的数，因为接受率要小于1，即：
1.4 改造的MCMC算法
MCMC有一定的拒绝率。
基于以上的结论，可以得到：二维Gibbs采样算法：
由以上的结论可以看出M-H拒绝率没有， 也就是百分之一百接受
可以推广到高维
固定邻居的值，当前的值
总结：可以用采样改造EM算法
第二部分 变分
2.1 变分的核心
2.2 变分的推导
变分推导(variational inference)是一般的确定性的近似推导算法。
思路：选择一个容易计算的近似分布q(x)，它能够尽可能的接近真正的后验分布p(x|D)。
用什么的相似度呢？KL散度
2.2.1 近似分布的KL散度
KL散度至少可以找到一个局部分极值
2.2.2 新目标函数
由上图可以得出：
1, 因为KL散度总是非负的，J(p)是NLL的上界
2, 因此，L(q)是似然函数的下界，当q=p*时取等号。 可取等号，说明下界是紧的(tight)
变分的目的是为了求参数
2.3 变分和EM的联系
EM算法：计算关于隐变量后验概率的期望，得到下界；
变分：计算KL散度，得到下界；
相同的思维：不断迭代，得到更好的下界，不断上升。
2.4 平均场方法(Mean field method)
N个因子的乘积
变分的近似推导，主要的近似就在于这部分，即：
2.5 变分的推导
变分的总结：
变分既能够推断隐变量，也能推断未知参数。其难点在于公式演算略复杂。
和采样相对：一个容易计算但速度慢，一个不容易计算但运行效率高。