MCMC 是一种基于马尔科夫链从随机分布取样的算法,其通过在概率空间中随机采样以近似兴趣参数的后验分布。
MCMC 基础理论为马尔科夫过程,在相关算法中,为了在一个指定分布上采样,可根据马尔科夫过程,先从任意状态出发模拟这个过程,并不断进行状态转移,最终收敛到平稳分布。
整体思路是利用平稳分布替代复杂分布,并以此取样拟合最终得到复杂样本的分布。
常用 MCMC 方法:Metropolis-Hastings 采样、 Gibbs 采样
1:初始化马氏链初始状态
2:对 循环以下过程进行采样
1:随机初始化
2:对 循环采样
【1】MCMC 入门指南
【2】马尔可夫链蒙特卡罗方法简析