STAT 101
M9 · تجربة
تجربة عملية
عايِن توزيعًا بعْديًّا يتعذّر حلّه

شغّل مُعايِن Metropolis-Hastings على هدفٍ معلوم في المِنصّة التفاعلية، وتوقَّع — قبل أن تقرأ من الشاشة — المتوسّط والتباين والتغاير التي تتقارب إليها السلسلة، والانحراف المعياري الدقيق الذي يسحب منه Gibbs، ولماذا يبدأ الارتباط الذاتي عند الواحد.

التوزيع البعْدي ∝ الأرجحيّة × القبْلي
p(\theta \mid D) \propto p(D \mid \theta)\, p(\theta)

التوزيع البعْدي هو القبْلي مضروبًا في الأرجحيّة، بعد إعادة التسوية: p(θ | data) ∝ p(data | θ) · p(θ). وحين يكون القبْلي مترافقًا مع الأرجحيّة — إذ يُعطي قبْليٌّ Beta(a, b) مع أرجحيّة ذات حدّين لـs نجاحًا في n محاولة توزيعًا بعْديًّا Beta(a + s, b + n − s) متوسّطه (a + s)/(a + b + n) — تحصل على الجواب بصيغة مغلقة. لكنّ معظم التوزيعات البعْدية غير مترافقة ولا صيغة مغلقة لها، فتُعايِنها بالسحب: تبني سلسلة ماركوف توزيعها المستقرّ هو التوزيع البعْدي نفسه، وتعامل السحبات كأنّها منه. والسبيل الوحيد للوثوق بالسحبات هو تشغيل المُعايِن على هدفٍ تعرف حقيقته سلفًا — هنا توزيعٌ طبيعيٌّ مترابط متوسّطه (0, 0) وتبايناته 1 وتغايره ρ — وتراقب تقاربها إليه.

1 / 9
STAT 101
M9 · تجربة
جهّز التجربة
سلسلة واحدة

افتح المِنصّة. تفتح على هذه الحالة بالضبط — سلسلة Metropolis-Hastings على التوزيع الطبيعي المترابط — فزرّ «إعادة الضبط» يعيدك إلى هنا أيضًا. تُسمّي كل خطوة المؤشّر الوحيد الذي تُغيّره؛ واترك ما عداه كما هو، ودع السلسلة تمتدّ إلى عشرات الآلاف من السحبات قبل أن تقرأ أيّ عزم.

اضبط هذه القيم
Target -> Correlated bivariate normal Sampler -> Metropolis-Hastings Correlation rho -> 0.6 Proposal width sigma -> 1 Seed -> 7 Burn-in -> 500

راقب قراءات متوسّط العيّنة وتباين العيّنة وتغاير العيّنة cov(x, y) تستقرّ على الهدف، وقراءتَي القبول وESS(x)، وأعمدة الارتباط الذاتي في لوحة التشخيص. كل رقم تتوقّعه مطبوع هناك.

2 / 9
STAT 101
M9 · تجربة
الخطوة 1 من 5
أين تعيش السلسلة: المتوسّط

اضغط «تشغيل» ودع السلسلة تنمو. متوسّط الهدف الحقيقي هو (0, 0). توقَّع متوسّط عيّنة x الذي تتقارب إليه السلسلة، ثم اقرأ قراءة متوسّط العيّنة.

المتوقّع

يستقرّ متوسّط العيّنة على 0، متوسّط الهدف الحقيقي. ولأنّه متوسّط عيّنة فإنّه يتذبذب حول الحقيقة — بعد فترة الإحماء تقع قراءتك ضمن أجزاء من المئة من (0, 0) — لكنّه لا يبتعد أبدًا: ذلك الاستقرار أوّل علامة على أنّ السلسلة وجدت التوزيع.

3 / 9
STAT 101
M9 · تجربة
الخطوة 2 من 5
الانتشار: التباين

اترك كل مؤشّر كما هو. تباين الهدف الحقيقي هو 1 في كل إحداثي. توقَّع تباين عيّنة x، ثم اقرأ قراءة تباين العيّنة.

المتوقّع

يستقرّ تباين العيّنة على 1، التباين الهامشي الحقيقي. ويحدّد المتوسّط والتباين معًا موضع السحابة وعرضها؛ أمّا العزم الأخير، التغاير، فهو الذي لم يُخبَر به المُعايِن قطّ.

4 / 9
STAT 101
M9 · تجربة
الخطوة 3 من 5
الخلاصة: التغاير ← ρ

ما زال كل شيء دون تغيير. تغاير الهدف خارج القطر هو ρ = 0.6 — الارتباط الذي ضبطته، والشيء الوحيد الذي يربط x وy. توقَّع تغاير العيّنة cov(x, y) الذي تتقارب إليه السلسلة، ثم اقرأ قراءة التغاير.

المتوقّع

يستقرّ تغاير العيّنة cov(x, y) على ρ = 0.6. وهذا هو الدليل على أمانة المُعايِن: فهو يستعيد بنية الارتباط للهدف من لا شيء سوى قرارات القبول والرفض على الكثافة — لم تُسلَّم السلسلة التغاير قطّ، بل استرجعته.

5 / 9
STAT 101
M9 · تجربة
الخطوة 4 من 5
غيبس: مشروطٌ دقيق

بدّل Sampler إلى Gibbs. فبدلًا من الاقتراح والقبول، يسحب غيبس كل إحداثي مباشرةً من مشروطه الدقيق، المعروض في لوحة المعادلات: x | y ~ N(ρy, 1 − ρ²). مع ρ = 0.6، توقَّع الانحراف المعياري لذلك المشروط √(1 − ρ²)، ثم تأكّد أنّ قراءة القبول تُظهر n/a.

المتوقّع

الانحراف المعياري المشروط هو √(1 − ρ²) = √0.64 = 0.8 بالضبط — بلا خطأ معاينة، لأنّه المشروط بصيغته المغلقة الذي يصادف أنّ التوزيع الطبيعي المترابط يملكه. كل خطوة من غيبس تسحب منه وتُقبَل بحكم البناء، فتُظهر قراءة القبول n/a، ويبقى تغاير العيّنة مستقرًّا على 0.6: الهدف نفسه، ومحرّك مختلف.

6 / 9
STAT 101
M9 · تجربة
الخطوة 5 من 5
لماذا تساوي n سحبة أقلّ: acf[0]

بدّل عائدًا إلى Metropolis-Hastings وانظر إلى أعمدة الارتباط الذاتي في لوحة التشخيص. توقَّع ارتفاع العمود الأوّل تمامًا، عند الإزاحة 0، ثم اقرأه.

المتوقّع

الارتباط الذاتي عند الإزاحة 0 هو 1 بالضبط — فأيّ سلسلة مرتبطة بنفسها ارتباطًا تامًّا. والأعمدة التي تليه هي المهمّة: فكلّما أبطأ تلاشيها، كرّرت كل سحبة جارتها أكثر، وقلّ عدد السحبات المستقلّة الفعّالة ESS التي تساويها السلسلة حقًّا.

7 / 9
STAT 101
M9 · تجربة
دورك الآن
افتح المِنصّة

كل ما سبق ينتظرك في المِنصّة. صغِّر عرض الاقتراح وراقب القبول يقفز بينما ينهار ESS؛ ووسِّعه حتى تلتصق السلسلة؛ وبدّل إلى الهدف ثنائي القمّة لترى اقتراحًا ضيّقًا يحبس السلسلة في قمّة واحدة ويُغفل الأخرى تمامًا — وهو فشل المزج الكلاسيكي الذي وُجدت تشخيصات MCMC لالتقاطه.

8 / 9
STAT 101
M9 · تجربة
خلاصة
ما أنجزتَه
  • راقبتَ متوسّط العيّنة وتباينها يتقاربان إلى قيمتَي الهدف الحقيقيّتين (0, 0) و1
  • رأيتَ تغاير العيّنة cov(x, y) يستعيد الارتباط ρ = 0.6 — الدليل على أمانة المُعايِن
  • قرأتَ الانحراف المعياري المشروط الدقيق لغيبس، √(1 − ρ²) = 0.8، مع قبول كل خطوة
  • تأكّدتَ من أنّ الارتباط الذاتي عند الإزاحة 0 هو 1 بالضبط — وهو سبب كون ESS دون طول السلسلة
  • كل قيمة توقّعتها هي حساب المُعايِن الخاص بالعرض نفسه، لا صورة تقريبية
9 / 9