Gibbs Sampling Gibbs采样

假设参数向量可以被分为M个子向量 

采样过程

假设 theta 服从先验分布 

1) 初始化

2) 分别计算

如 

用所有不为i的(M-1)个上一个阶段的子向量来抽样的条件概率，得到 ；

分别抽样M次，得到M个子向量，合并得到 ；

3)    同理，可以从 抽样子向量再合并得到 ；

最终我们得到的参数估计的序列

为一马尔科夫链，当收敛达到稳态时，为我们要估测的后验概率

参数的马尔科夫链达到稳态Stationary Distribution时，这个稳态分布即为后验概率Posterior PRobability

MCMC的Sampler需要一个前N0次burn-in period的迭代，才能达到稳态;

Metropolis-Hastings方法

采样过程

1) 初始化 

2)   假设当前的参数为，根据Jumping 分布Jump生成一个Candidate 备选的参数向量，这个生成被选的分布J(x,y)也叫做Proposal Density；通常选择对称分布J(x,y)=J(y,x);

Jumping分布概率被接受的概率为min(r, 1),

J(t)为Proposal Density，通常取对称分布值比如高斯分布或者t分布，

3)    计算密度函数的比例r来判断是否接收

当一次Jump 使得概率密度上升(a>=1)，则直接更新 ，继续迭代;

当一次Jump 使得概率密度下降(a<1)，则以a的概率接收更新;

生成均匀分布，如果, 则接收，如果则拒绝接受，重新生成

4)    当J(t)不为对称分布时, 接受概率为min(r,1)

则最终参数形成了马尔科夫链