MCMC 是一种基于马尔科夫链从随机分布取样的算法,其通过在概率空间中随机采样以近似兴趣参数的后验分布。
MCMC 基础理论为马尔科夫过程,在相关算法中,为了在一个指定分布上采样,可根据马尔科夫过程,先从任意状态出发模拟这个过程,并不断进行状态转移,最终收敛到平稳分布。
整体思路是利用平稳分布替代复杂分布,并以此取样拟合最终得到复杂样本的分布。
常用 MCMC 方法:Metropolis-Hastings 采样、 Gibbs 采样
Metropolis-Hastings 采样
1:初始化马氏链初始状态
2:对 循环以下过程进行采样
- 第 个时刻马氏链状态为 ,采样
- 从均匀分布采样
- 如果 则接受转移 ,即
- 否则不接受转移,即
Gibbs 采样
1:随机初始化
2:对 循环采样
参考来源
【1】MCMC 入门指南
【2】马尔可夫链蒙特卡罗方法简析