مركز أبحاث السرطان في ميشيغان إنها خوارزمية لأخذ العينات من توزيع عشوائي تعتمد على سلسلة ماركوف، والتي تقرب التوزيع الخلفي للمعامل المطلوب من خلال أخذ عينات عشوائية في فضاء الاحتمالات.

النظرية الأساسية لـ MCMC هي عملية ماركوف. في الخوارزميات ذات الصلة، من أجل أخذ عينات من توزيع محدد، يمكننا محاكاة هذه العملية من أي حالة وفقًا لعملية ماركوف، وإجراء انتقالات الحالة بشكل مستمر حتى تتقارب أخيرًا إلى توزيع مستقر.

الفكرة العامة هي استخدام توزيع مستقر ليحل محل التوزيع المعقد، واستخدامه لعينة وملاءمة للحصول في النهاية على توزيع العينة المعقدة.

طرق MCMC الشائعة: أخذ العينات من Metropolis-Hastings، أخذ العينات من Gibbs

أخذ العينات من متروبوليس-هاستينغز

1: تهيئة الحالة الأولية لسلسلة ماركوف $latex {X\mathop{{}}\nolimits\_{{0}}\text{ }=\text{ }x\mathop{{}}\nolimits\_{{0}}}$latexX_0 = x_0

2: قم بتجربة العملية التالية لدورة $latex {t\text{ }=\text{ }0,\text{ }1,\text{ }2,\text{ }…}$latext = 0, 1, 2, …

• في اللحظة $latex {t}$latext، تكون حالة سلسلة ماركوف هي $latex {X\mathop{{}}\nolimits\_{{t}}\text{ }=\text{ }x\mathop{{}}\nolimits\_{{t}}}$latexX_t = x_t، وتكون العينة $latex {y\text{ } \sim \text{ }q{ \left( {x \left| x\mathop{{}}\nolimits\_{{t}}\right. } \right) }}$latexy ∼ q(x​x_t)
• أخذ العينات من توزيع موحد$latex {u\text{ } \sim \text{ }Uniform{ \left[ {0,1} \right] }}$latexu ∼ Uniform[0,1]
• إذا كان latex {u\text{ } < \text{ } \alpha { \left( {x\mathop{{}}\nolimits\_{{t}},y} \right) }\text{ }=\text{ }min{ \left\{ {\frac{{p{ \left( {y} \right) }q{ \left( {x\mathop{{}}\nolimits\_{{t}} \left| y\right. } \right) }}}{{p{ \left( {x\mathop{{}}\nolimits\_{{t}}} \right) }p{ \left( {y \left| {x\mathop{{}}\nolimits\_{{t}}\text{ } \to \text{ }y}، أي $latex {X\mathop{{}}\nolimits\_{{t+1}}\text{ }=\text{ }y}$latexX_t+1 = y
• بخلاف ذلك، لن يتم قبول النقل، أي $latex {X\mathop{{}}\nolimits\_{{t+1}}\text{ }=\text{ }x\mathop{{}}\nolimits\_{{t}}}$latexX_t+1 = x_t

أخذ العينات من جيبس

1: قم بتهيئة $latex عشوائيًا {X\mathop{{}}\nolimits\_{{0}}\text{ }=\text{ }x\mathop{{}}\nolimits\_{{0}},\text{ }Y\mathop{{}}\nolimits\_{{0}}\text{ }=\text{ }y\mathop{{}}\nolimits\_{{0}}}$latexعشوائيًاX_0 = x_0, Y_0 = y_0

2: أخذ العينات الدورية من $latex {t\text{ }=\text{ }0,\text{ }1,\text{ }2,\text{ }…}$latext = 0, 1, 2, …

• $latex {y\mathop{{}}\nolimits\_{{t+1}}\text{ } \sim \text{ }p{ \left( {y \left| x\mathop{{}}\nolimits\_{{t}}\right. } \right) }}$latexy_t+1 ∼ p(y​x_t)
• $latex {x\mathop{{}}\nolimits\_{{t+1}}\text{ } \sim \text{ }p{ \left( {x \left| y\mathop{{}}\nolimits\_{{t+1}}\right. } \right) }}$latexx_t+1 ∼ p(x​y_t+1)

مراجع

【1】البدء مع MCMC

【2】تحليل موجز لسلسلة ماركوف طريقة مونت كارلو