الانحدار الخطي

ML 101

M02 · L01

الوحدة ٢

أساس تعلم الآلة. خط مستقيم عبر البيانات يتنبأ بالمستقبل — بسيط وقوي ونقطة البداية لكل ما يأتي بعده.

01 / 13

ML 101

M02 · L01

التهيئة

التنبؤ بالبيانات

إذا كانت لدينا أمثلة سابقة من مدخلات ومخرجات، هل يمكننا إيجاد نمط؟ الانحدار الخطي يرسم أفضل خط مستقيم عبر نقاط البيانات المبعثرة.

مثال

إذا عرفنا مساحات المنازل وأسعارها، يمكننا التنبؤ بسعر منزل جديد.

02 / 13

ML 101

M02 · L01

المعادلة

النموذج الخطي

أبسط نموذج ممكن — خط مستقيم يتحدد برقمين فقط: الوزن (الميل) والانحياز (نقطة التقاطع).

النموذج الخطي

\hat{y} = w_1 x + w_0

03 / 13

ML 101

M02 · L01

التوسع

متغيرات متعددة

المشاكل الحقيقية لها مدخلات كثيرة. السعر يعتمد على المساحة وعدد الغرف والموقع والعمر… الانحدار الخطي يتعامل معها جميعًا بـوزن واحد لكل متغير.

الانحدار المتعدد

\hat{y} = w_0 + w_1 x_1 + w_2 x_2 + \cdots + w_n x_n

04 / 13

ML 101

M02 · L01

قياس الخطأ

متوسط مربع الخطأ

ما مدى خطأ خطنا؟ MSE يحسب متوسط المسافة المربعة بين التنبؤات والواقع. التربيع يعاقب الأخطاء الكبيرة أكثر من الصغيرة.

دالة التكلفة

J(\mathbf{w}) = \frac{1}{n}\sum_{i=1}^{n}(\hat{y}_i - y_i)^2

05 / 13

ML 101

M02 · L01

التصور

مشهد الخسارة

ارسم MSE مقابل كل قيمة ممكنة للأوزان وستحصل على سطح على شكل وعاء. قاع الوعاء هو الحل الأمثل. مهمتنا: إيجاده.

نقطة جوهرية

في الانحدار الخطي، هذا الوعاء دائمًا محدّب — يوجد حد أدنى عام واحد فقط. لا فخاخ ولا طرق مسدودة.

06 / 13

ML 101

M02 · L01

التحسين

النزول التدريجي

ابدأ من أي مكان على الوعاء. احسب الميل. اخطُ خطوة نحو الأسفل. كرّر. معدل التعلم α يتحكم في حجم الخطوة — كبير جدًا وتتجاوز الهدف، صغير جدًا وتزحف ببطء.

قاعدة التحديث

w \leftarrow w - \alpha \frac{\partial J}{\partial w}

تفاعلي: اضبط معدل التعلّم وراقب الخطوات تهبط على سطح خسارة حقيقي — مُولَّد بالذكاء الاصطناعي، بالإنجليزية

07 / 13

ML 101

M02 · L01

الاختصار

المعادلة الطبيعية

لماذا التكرار عندما يمكنك الحل مباشرة؟ المعادلة الطبيعية تعطي الأوزان المثلى بالضبط في خطوة واحدة — بدون معدل تعلم ولا تكرارات.

الحل المغلق

\mathbf{w} = (\mathbf{X}^T \mathbf{X})^{-1} \mathbf{X}^T \mathbf{y}

08 / 13

ML 101

M02 · L01

المفاضلات

النزول التدرجي أم المعادلة الطبيعية؟

كلاهما يجد نفس الإجابة. الاختيار الصحيح يعتمد على بياناتك:

المعادلة الطبيعية

n < 10,000

النزول التدرجي

n > 10,000

09 / 13

ML 101

M02 · L01

نصيحة عملية

تطبيع المتغيرات

إذا كان متغير يتراوح بين ٠–١ وآخر بين ٠–١٬٠٠٠٬٠٠٠، النزول التدرجي يتعرج بشدة. طبّع المتغيرات لمقاييس متشابهة ويتقارب أسرع بكثير.

قبل التطبيع

+١٠٠٠ تكرار

بعد التطبيع

~٥٠ تكرار

10 / 13

ML 101

M02 · L01

ما بعد الخطوط

الانحدار متعدد الحدود

البيانات ليست دائمًا خطية. أضف متغيرات كثيرة الحدود مثل x² و x³ لتناسب المنحنيات — باستخدام نفس آلية الانحدار الخطي.

نموذج متعدد الحدود

\hat{y} = w_0 + w_1 x + w_2 x^2 + w_3 x^3

11 / 13

ML 101

اختبار سريع

تحقّق ممّا ثبت

أربعة أسئلة من هذا الدرس. أجب لترى السبب — يظهر الشرح سواء أصبتَ أم أخطأت. ولا شيء يُسجَّل أو يُحفَظ.

السؤال 1 من 0

النتيجة 0/0

12 / 13

ML 101

ملخص

مراجعة

ما تعلمته

الانحدار الخطي يلائم خطًا للبيانات بتقليل MSE. النزول التدرجي أو المعادلة الطبيعية يجدان الأوزان المثلى. تطبيع المتغيرات يسرّع التقارب. المتغيرات متعددة الحدود تعالج المنحنيات.

الدرس التالي

الانحدار اللوجستي ←

كل الدروس اقرأ المقالة

13 / 13