HyperAI超神经

مركز أبحاث السرطان في ميشيغان إنها خوارزمية لأخذ العينات من توزيع عشوائي تعتمد على سلسلة ماركوف، والتي تقرب التوزيع الخلفي للمعامل المطلوب من خلال أخذ عينات عشوائية في فضاء الاحتمالات.

النظرية الأساسية لـ MCMC هي عملية ماركوف. في الخوارزميات ذات الصلة، من أجل أخذ عينات من توزيع محدد، يمكننا محاكاة هذه العملية من أي حالة وفقًا لعملية ماركوف، وإجراء انتقالات الحالة بشكل مستمر حتى تتقارب أخيرًا إلى توزيع مستقر.

الفكرة العامة هي استخدام توزيع مستقر ليحل محل التوزيع المعقد، واستخدامه لعينة وملاءمة للحصول في النهاية على توزيع العينة المعقدة.

طرق MCMC الشائعة: أخذ العينات من Metropolis-Hastings، أخذ العينات من Gibbs

أخذ العينات من متروبوليس-هاستينغز

1: تهيئة الحالة الأولية لسلسلة ماركوف ${X\mathop{{}}\nolimits_{{0}}\text{ }=\text{ }x\mathop{{}}\nolimits_{{0}}}$

2: قم بتجربة العملية التالية لدورة ${t\text{ }=\text{ }0,\text{ }1,\text{ }2,\text{ }…}$

في اللحظة $\text{[math]}$ ، تكون حالة سلسلة ماركوف هي ${X\mathop{{}}\nolimits_{{t}}\text{ }=\text{ }x\mathop{{}}\nolimits_{{t}}}$ ، وتكون العينة ${y\text{ } \sim \text{ }q{ \left( {x \left| x\mathop{{}}\nolimits_{{t}}\right. } \right) }}$
أخذ العينات من توزيع موحد ${u\text{ } \sim \text{ }Uniform{ \left[ {0,1} \right] }}$
إذا كان ${u\text{ } < \text{ } \alpha { \left( {x\mathop{{}}\nolimits_{{t}},y} \right) }\text{ }=\text{ }min{ \left\{ {\frac{{p{ \left( {y} \right) }q{ \left( {x\mathop{{}}\nolimits_{{t}} \left| y\right. } \right) }}}{{p{ \left( {x\mathop{{}}\nolimits_{{t}}} \right) }p{ \left( {y \left| {x\mathop{{}}\nolimits_{{t}}\text{ } \to \text{ }y}$ ، أي ${X\mathop{{}}\nolimits_{{t+1}}\text{ }=\text{ }y}$
بخلاف ذلك، لن يتم قبول النقل، أي ${X\mathop{{}}\nolimits_{{t+1}}\text{ }=\text{ }x\mathop{{}}\nolimits_{{t}}}$

أخذ العينات من جيبس

1: قم بتهيئة $latex عشوائيًا {X\mathop{{}}\nolimits_{{0}}\text{ }=\text{ }x\mathop{{}}\nolimits_{{0}},\text{ }Y\mathop{{}}\nolimits_{{0}}\text{ }=\text{ }y\mathop{{}}\nolimits_{{0}}}$

2: أخذ العينات الدورية من ${t\text{ }=\text{ }0,\text{ }1,\text{ }2,\text{ }…}$

${y\mathop{{}}\nolimits_{{t+1}}\text{ } \sim \text{ }p{ \left( {y \left| x\mathop{{}}\nolimits_{{t}}\right. } \right) }}$
${x\mathop{{}}\nolimits_{{t+1}}\text{ } \sim \text{ }p{ \left( {x \left| y\mathop{{}}\nolimits_{{t+1}}\right. } \right) }}$

مراجع

【1】البدء مع MCMC

【2】تحليل موجز لسلسلة ماركوف طريقة مونت كارلو

سلسلة ماركوف طريقة مونت كارلو MCMC

أخذ العينات من متروبوليس-هاستينغز

أخذ العينات من جيبس

مراجع