STAT 101
M05 · L01
الوحدة 5 · الدرس 1
التقدير النقطي
نشاهد البيانات. نريد معرفة المعامل الكامن. التقدير النقطي يعطينا أفضل تخمين واحد — والأدوات لمعرفة مدى جودة هذا التخمين.
01 / 13
STAT 101
M05 · L01
دقة في اللغة
المقدِّر مقابل التقدير
المقدِّر
g(X₁,…,Xₙ)
متغير عشوائي
متغير عشوائي
التقدير
g(x₁,…,xₙ)
عدد محدد
عدد محدد
الحروف الكبيرة = متغير عشوائي. الحروف الصغيرة = قيمة مشاهدة. خصائص كالتحيز والتباين تنتمي للـمقدِّر، لا لأي تقدير بعينه.
02 / 13
STAT 101
M05 · L01
الخاصية المرغوبة #1
اللاتحيز
في المتوسط، عبر جميع العينات الممكنة، يصيب المقدِّر الهدف الحقيقي:
اللاتحيز
E[\hat{\theta}] = \theta
أمثلة
X̄ غير متحيز لـ μ.
S² بـ n−1 غير متحيز لـ σ².
S² بـ n−1 غير متحيز لـ σ².
03 / 13
STAT 101
M05 · L01
الخاصية المرغوبة #2
الاتساق
بيانات أكثر = أقرب إلى الحقيقة. رسمياً، θ̂ₙ يتقارب بالاحتمال نحو θ:
الاتساق
\lim_{n\to\infty} P(|\hat{\theta}_n - \theta| > \varepsilon) = 0
04 / 13
STAT 101
M05 · L01
الخاصية المرغوبة #3
الكفاءة وحد كراميه-راو
- بين جميع المقدِّرات غير المتحيزة، نفضّل أصغر تباين
- يضع حد كراميه-راو الحد الأدنى الممكن للتباين
- المقدِّر الذي يبلغ الحد يسمى UMVUE
- MLE كفء مقاربياً
05 / 13
STAT 101
M05 · L01
إطار التقدير #1
طريقة العزوم
اضبط عزوم العينة مساوية لعزوم المجتمع، ثم حل:
طريقة العزوم
E[X^k] = \tfrac{1}{n}\sum_{i=1}^n X_i^k
مثال: الطبيعي
μ̂ = X̄, σ̂² = (1/n)Σ(Xᵢ−X̄)²
06 / 13
STAT 101
M05 · L01
إطار التقدير #2
الإمكانية العظمى
اختر θ لجعل البيانات المشاهدة أكثر احتمالاً:
دالة الإمكانية
L(\theta) = \prod_{i=1}^{n} f(x_i;\,\theta)
عملياً، عظّم لوغاريتم الإمكانية ℓ(θ) = Σ log f(xᵢ; θ).
07 / 13
STAT 101
M05 · L01
حل MLE
معادلة الدرجة
اشتق لوغاريتم الإمكانية، واضبطه مساوياً للصفر:
معادلة الدرجة
\dfrac{\partial\,\ell(\theta)}{\partial\theta} = 0 \implies \hat{\theta}_{\mathrm{MLE}}
لماذا اللوغاريتم؟
الضرب → جمع. مستقر عددياً. نفس نقطة التعظيم.
08 / 13
STAT 101
M05 · L01
MLE تطبيقياً
MLE للتوزيع الطبيعي
- التعظيم بالنسبة لـ μ → μ̂ = X̄ (متوسط العينة)
- التعظيم بالنسبة لـ σ² → σ̂² = (1/n)Σ(Xᵢ−X̄)²
- σ̂² تستخدم n (متحيز قليلاً) بعكس S² بـ n−1 (غير متحيز)
- لـ n كبيرة، الفرق ضئيل
09 / 13
STAT 101
M05 · L01
نتائج MLE إضافية
برنولي وبواسون
- Bernoulli(p): p̂ = X̄ = k/n (نسبة العينة)
- Poisson(λ): λ̂ = X̄ (متوسط العينة)
- كلاهما يوافق طريقة العزوم — ليس دائماً هكذا
- الثبات: إذا كان θ̂ هو MLE لـ θ، فـ g(θ̂) هو MLE لـ g(θ)
10 / 13
STAT 101
M05 · L01
التوتر الجوهري
مقايضة التحيز والتباين
تحليل MSE
\mathrm{MSE}(\hat{\theta}) = \mathrm{Var}(\hat{\theta}) + [\mathrm{Bias}(\hat{\theta})]^2
الفكرة الجوهرية
مقدِّر متحيز يمكنه التفوق على غير المتحيز إذا كان تبايناً أصغر بكثير. التحجيم يستغل هذا.
11 / 13
STAT 101
ملخص
مراجعة
ما تعلمته
- المقدِّر (عشوائي) مقابل التقدير (عدد ثابت)
- اللاتحيز، الاتساق، الكفاءة (حد كراميه-راو)
- طريقة العزوم: طابق عزوم العينة والمجتمع
- MLE: عظّم لوغاريتم الإمكانية — متسق وكفء مقاربياً
- MSE = التباين + التحيز² — المقايضة الجوهرية
التالي
13 / 13