STAT 101
M07 · L02
الوحدة ٧ · الدرس ٢
الانحدار المتعدد
النتائج الحقيقية تعتمد على عوامل عديدة في آنٍ واحد. يمتد الانحدار المتعدد بالنموذج الخطي ليشمل p متنبئًا — مُقدِّرًا الإسهام الفريد لكل متغير مع التحكم في الآخرين.
01 / 12
STAT 101
M07 · L02
المعادلة
النموذج
الانحدار الخطي المتعدد
Y = \beta_0 + \beta_1 X_1 + \cdots + \beta_p X_p + \varepsilon
بصيغة المصفوفات: Y = Xβ + ε. حل OLS: β̂ = (X′X)⁻¹X′Y — صيغة واحدة لأي عدد من المتنبئات.
02 / 12
STAT 101
M07 · L02
مع ثبات الآخرين
التأثيرات الجزئية
الفرق الجوهري
β̂₁ في الانحدار البسيط: التغيُّر الخام في Y لكل وحدة X₁
β̂₁ في الانحدار المتعدد: التغيُّر في Y مع ثبات X₂,…,Xₚ
β̂₁ في الانحدار المتعدد: التغيُّر في Y مع ثبات X₂,…,Xₚ
المعاملات الجزئية تتحكم في العوامل المُربِكة — تقيس الإسهام الخطي الفريد لكل متنبئ.
03 / 12
STAT 101
M07 · L02
جودة ملاءمة معاقَبة
R² المعدَّل
R² المعدَّل
\bar{R}^2 = 1 - (1-R^2)\dfrac{n-1}{n-p-1}
R² العادي لا ينخفض عند إضافة متنبئات. R² المعدَّل يرتفع فقط إذا ساعد المتغير الجديد حقًا — إذ يعاقب تعقيد النموذج.
04 / 12
STAT 101
M07 · L02
متنبئات مترابطة
التعدد الخطي
- ما هو: ارتباط عالٍ بين اثنين أو أكثر من المتنبئات
- الأثر: تضخُّم الانحرافات المعيارية — معاملات غير مستقرة
- العلامة: R² مرتفع لكن لا يوجد متنبئ دال
- الحل: حذف متغير أو دمجهما أو استخدام Ridge
05 / 12
STAT 101
M07 · L02
تشخيص التعدد الخطي
عامل تضخم التباين
VIF
\text{VIF}_j = \dfrac{1}{1 - R_j^2}
VIF = 1
لا تعدد خطي
VIF > 10
حاد — يستوجب التدخل
06 / 12
STAT 101
M07 · L02
أي المتنبئات نحتفظ بها؟
اختيار المتغيرات
- الأمامي: أضف أفضل متنبئ في كل خطوة
- الخلفي: ابدأ بالكامل واحذف الأضعف تباعًا
- التدريجي: أمامي + خلفي متناوبَين
- القيد: جميعها تُضخِّم الخطأ من النوع الأول — استكشافية فحسب
07 / 12
STAT 101
M07 · L02
المتنبئات الفئوية
المتغيرات الوهمية
k مستوى → k−1 متغيرًا وهميًا
المنطقة: الشمال (مرجع)، الجنوب، الشرق، الغرب
← ٣ متغيرات: D₁، D₂، D₃
كل معامل = التأثير مقارنةً بالفئة المرجعية مع ثبات المتنبئات الأخرى
← ٣ متغيرات: D₁، D₂، D₃
كل معامل = التأثير مقارنةً بالفئة المرجعية مع ثبات المتنبئات الأخرى
إضافة تفاعل وهمي × مستمر تجعل الميل يختلف بين الفئات.
08 / 12
STAT 101
M07 · L02
مقارنة النماذج
AIC و BIC
معايير المعلومات
\text{AIC} = {-2\ell + 2k} \quad \text{BIC} = {-2\ell + k\ln n}
AIC
يُفضِّل التنبؤ
BIC
يُفضِّل التقشف
09 / 12
STAT 101
M07 · L02
نفس افتراضات الانحدار البسيط
التحقق من الافتراضات
- الخطية — البواقي مقابل المُلائَمة: لا منحنى
- تجانس التباين — اتساق منتظم في البواقي
- الاعتدالية — مخطط QQ للبواقي
- الاستقلالية — لا ارتباط ذاتي
- لا تعدد خطي — تحقق من VIF لكل متنبئ
10 / 12
STAT 101
ملخص
مراجعة
ما تعلمته اليوم
- النموذج: Y = β₀ + β₁X₁ + … + βₚXₚ + ε؛ الحل: β̂ = (X′X)⁻¹X′Y
- المعاملات الجزئية تقيس تأثير كل متنبئ مع ثبات الآخرين
- R² المعدَّل يعاقب المتنبئات الزائدة؛ R² العادي لا ينخفض أبدًا
- VIF يُشخِّص التعدد الخطي (تحذير > 5؛ حاد > 10)
- الاختيار التدريجي استكشافي — فضِّل AIC/BIC أو Lasso
- المتغيرات الفئوية تحتاج k−1 متغيرًا وهميًا
12 / 12