LA 101
M11 · L02
الوحدة 11: تطبيقات تعلم الآلة

تحليل المصفوفة

مصفوفات البيانات الكبيرة تخفي بنية لا يكشفها أي عنصر منفرد. تحليل المصفوفة — NMF والتصفية التعاونية بـ SVD والتحليل الدلالي الكامن — يُحلِّل المصفوفة إلى أجزاء قابلة للتفسير تكشف العوامل الكامنة.

01 / 12
LA 101
M11 · L02
تحليل المصفوفة غير السالبة

تحليل قائم على الأجزاء

بناءً على V ≥ 0، أوجد W ≥ 0 وH ≥ 0 مع V ≈ WH. عدم السالبية يُجبر على عوامل إضافية وقائمة على الأجزاء — كل عمود من W هو "جزء" وكل صف من H هو وزن خلط. لا مسح مسموح به.

هدف NMF
\min_{W\geq 0,H\geq 0}\|V-WH\|_F^2
02 / 12
LA 101
M11 · L02
NMF: التعلّم

التحديثات الضربية

يتناوب NMF بين تحديث H وW باستخدام خطوات تدرج قائمة على النسب تضمن عدم السالبية طوال العملية. تتقارب نحو حد أدنى محلي — المسألة غير محدبة في (W,H) معاً.

W
قاموس الأجزاء
H
أوزان الخلط
k
عدد العوامل
03 / 12
LA 101
M11 · L02
NMF مقابل PCA

أجزاء مقابل كُلّية

يسمح PCA بالمعاملات السالبة — المكوّنات يمكن أن تتلاشى، منتجةً تمثيلات شاملة. NMF يُضيف فقط دون طرح. للصور هذا يعني ملامح الوجه (عيون وأنف وفم)، لا مزيج الوجه المميز. أكثر قابلية للتفسير.

أمثلة
صور: لقطات البكسل · نصوص: توزيعات الموضوعات · صوت: قوالب طيفية
04 / 12
LA 101
M11 · L02
أنظمة التوصية

التصفية التعاونية

مصفوفة التقييمات R منخفضة الرتبة: بضعة عوامل كامنة (الأنواع والأساليب) تُفسّر معظم التباين. تعلّم متجهات المستخدمين pᵢ ومتجهات العناصر qⱼ في فضاء كامن مشترك. التقييم المتنبأ به: r̂ᵢⱼ = pᵢᵀqⱼ.

هدف التحليل
\min\sum_{(i,j)\in\Omega}(r_{ij}-p_i^T q_j)^2+\lambda(\|p_i\|^2+\|q_j\|^2)
05 / 12
LA 101
M11 · L02
هندسة الفضاء الكامن

المستخدمون والعناصر والتشابه

بعد التدريب، pᵢ وqⱼ يعيشان في نفس الفضاء k-الأبعاد. العناصر المتشابهة تتجمع — حتى دون ميزات صريحة مشتركة. المستخدمون المتشابهون أيضاً. الضرب الداخلي pᵢᵀqⱼ يقيس التوافق: قيمة كبيرة ← تقييم مرتفع متنبأ.

pᵢᵀqⱼ
التقييم المتنبأ
‖pᵢ−pⱼ‖
مسافة المستخدم
06 / 12
LA 101
M11 · L02
مبرهنة إيكارت-يونغ

أفضل تقريب منخفض الرتبة

أفضل تقريب رتبة-k لـ A (في معيار فروبينيوس والطيفي) هو SVD المقطوع: الإبقاء فقط على k أكبر قيمة أحادية. الخطأ = σₖ₊₁² + … + σᵣ². لا توجد مصفوفة رتبة-k أقرب.

SVD المقطوع
A_k=U_k\Sigma_k V_k^T=\sum_{i=1}^{k}\sigma_i\mathbf{u}_i\mathbf{v}_i^T
07 / 12
LA 101
M11 · L02
التحليل الدلالي الكامن

SVD على النصوص

نبني مصفوفة TF-IDF للمصطلح-الوثيقة A. نقطعها بـ SVD إلى رتبة k. متجهات المفاهيم الناتجة تلتقط الترادف (تجمّع الكلمات المتشابهة). تشابه الوثائق = جيب التمام بين متجهات المفاهيم — حتى الوثائق التي لا تشترك في كلمات يمكن أن تتشابه.

  • صفوف UₖΣₖ: متجهات المفاهيم للمصطلحات
  • أعمدة ΣₖVₖᵀ: متجهات المفاهيم للوثائق
  • k مكوّن = k "موضوع" كامن
08 / 12
LA 101
M11 · L02
التضمينات اللفظية

GloVe وتحليل PMI

يُحلِّل GloVe بشكل صريح مصفوفة لوغاريتم التزامن: wᵢᵀw̃ⱼ ≈ log Xᵢⱼ. Word2Vec يفعل الأمر ذاته ضمنياً لمصفوفة PMI المُزاحة. النتيجة: القياسات الدلالية كهندسة — ملك − رجل + امرأة ≈ ملكة.

GloVe
تحليل صريح
W2V
PMI ضمني
09 / 12
LA 101
تحليل المصفوفة

تحقّق مما رسخ

أربعة أسئلة عن NMF والتصفية التعاونية والتحليل الدلالي الكامن والتضمينات كعمليات تحليل.

السؤال 1 من 0
النتيجة 0/0

10 / 12
LA 101
نقاط رئيسية
ملخص

النقاط الرئيسية

  • NMF: V ≈ WH مع W,H ≥ 0 → عوامل قائمة على الأجزاء وقابلة للتفسير
  • التصفية التعاونية: R منخفضة الرتبة ≈ PQᵀ؛ تنبؤ rᵢⱼ = pᵢᵀqⱼ
  • إيكارت-يونغ: SVD المقطوع هو التقريب الأمثل منخفض الرتبة
  • LSA: SVD على مصفوفة TF-IDF يلتقط الترادف والموضوعات الكامنة
  • تضمينات الكلمات (GloVe/W2V): تُحلِّل ضمنياً مصفوفة لوغاريتم التزامن — القياس = هندسة
11 / 12
LA 101
القادم
القادم

الوحدة 11-الدرس 3: أساسيات الشبكات العصبية

رأينا كيف يكتشف تحليل المصفوفة البنية الخفية. القادم: كيف تُسلسِل الشبكات العصبية عمليات ضرب المصفوفات — الانتشار للأمام، والانتشار للخلف كقاعدة سلسلة Jacobian، وآلية الانتباه كعملية مصفوفات QKV.

الدرس القادم
الوحدة 11-الدرس 3: أساسيات الشبكات العصبية ←
كل الدروس اقرأ المقالة
12 / 12