LA 101
W07 · D03
الوحدة 7: تحليلات المصفوفات
تحليل القيم الشاذة (SVD)
A = UΣVᵀ لأي مصفوفة — أي شكل، أي رتبة. يكشف SVD الهندسة الخفية ويقود ضغط الصور وعلم البيانات الحديث.
01 / 11
LA 101
W07 · D03
العوامل الثلاثة
U، Σ، V — لكل منها دور
U
متعامدة m×m، متجهات شاذة يسرى
Σ
قطرية، قيم شاذة σ₁ ≥ σ₂ ≥ 0
V
متعامدة n×n، متجهات شاذة يمنى
شامل
يعمل لأي مصفوفة m × n — مربعة أو مستطيلة أو مفردة أو منخفضة الرتبة. LU تتطلب مربعة؛ QR تحتاج رتبة كاملة. SVD لا تحتاج شيئاً.
02 / 11
LA 101
W07 · D03
معادلة SVD
التحليل الكامل
Singular Value Decomposition
A = U\Sigma V^T,\quad \sigma_1 \geq \sigma_2 \geq \cdots \geq \sigma_r > 0
صيغة المنتج الخارجي
A = σ₁u₁v₁ᵀ + σ₂u₂v₂ᵀ + ⋯ + σᵣuᵣvᵣᵀ — مجموع r "لبنات" من الرتبة الأولى، مرجَّحة بالقيم الشاذة.
03 / 11
LA 101
W07 · D03
الهندسة
تدوير ← تمدد ← تدوير
كل مصفوفة A تعمل في ثلاث خطوات: Vᵀ يُدوّر المدخل، Σ يمدد على طول المحاور بمقدار القيم الشاذة، U يُدوّر المخرج.
- Vᵀ: دوران صارم — يحافظ على الأطوال والزوايا
- Σ: تمدد المحور i بمقدار σᵢ؛ المحاور ذات σᵢ = 0 تنهار
- U: دوران صارم في فضاء الخرج
- القيم الشاذة تخبرك بأي الاتجاهات تضخّمها A أكثر
04 / 11
LA 101
W07 · D03
الفضاءات الجوهرية الأربعة
SVD يكشف كل شيء
- فضاء الأعمدة: u₁، …، uᵣ (القيم الشاذة غير الصفرية)
- فضاء العدم الأيسر: uᵣ₊₁، …، uₘ (القيم الشاذة الصفرية)
- فضاء الصفوف: v₁، …، vᵣ
- فضاء العدم: vᵣ₊₁، …، vₙ
- الرتبة: عدد القيم الشاذة غير الصفرية
- رقم التكييف: κ₂(A) = σ₁ / σₗ، l = min(m, n)
05 / 11
LA 101
W07 · D03
نظرية إيكارت–يونغ
أفضل تقريب منخفض الرتبة
Truncated SVD
A_k = \sum_{i=1}^{k}\sigma_i u_i v_i^T,\quad \|A-A_k\|_2 = \sigma_{k+1}
ضغط أمثل
لا توجد مصفوفة من الرتبة k أقرب إلى A بأي معيار ثابت تحت التحويلات الأحادية. k = 50 من 1000 قيمة شاذة تحتفظ بـ 95% من المحتوى البصري للصورة.
06 / 11
LA 101
W07 · D03
التطبيق: المعكوس التعميمي
حل أي منظومة خطية
Moore–Penrose Pseudoinverse
A^+ = V\Sigma^+ U^T,\quad x^* = A^+ b
المربعات الصغرى ذات الحدّ الأدنى
x* = A⁺b يصغّر ‖Ax − b‖² ومن بين جميع المصغِّرات يختار الحل ذا أصغر ‖x‖. يعمل مع أي A — مربعة أو طويلة أو عريضة أو مفردة.
07 / 11
LA 101
W07 · D03
التطبيقات
SVD يقود علم البيانات
- PCA: المتجهات الشاذة = المكونات الرئيسية؛ σᵢ² ∝ التباين المُفسَّر
- أنظمة التوصية: SVD منخفض الرتبة يملأ التقييمات المفقودة
- التحليل الدلالي الكامن: نمذجة الموضوعات من مصفوفات المصطلح-الوثيقة
- ضغط الصور: تخزين k قيمة/متجه شاذ فقط
- تقليل الضوضاء: تصفير القيم الشاذة الصغيرة
- الرتبة العددية: عدّ σᵢ > ε · σ₁
08 / 11
LA 101
W07 · D03
حساب SVD
إرجاع ثنائي القطري ثم تكرار
المرحلة 1: اختزال A إلى شكل ثنائي القطري B عبر انعكاسات Householder — O(mn²) عملية. المرحلة 2: تطبيق تكرار Golub–Reinsch الشبيه بـQR لإيجاد القيم الشاذة لـB.
SVD عشوائي
للمصفوفات الكبيرة، إسقاط إلى فضاء فرعي عشوائياً أولاً. يجد SVD من الرتبة k في O(mn log k) — أسرع بـ100 مرة من SVD الكامل عندما k ≪ min(m, n).
10 / 11
LA 101
W07 · D03
الوحدة 7 تتواصل
SVD: التحليل الشامل
A = UΣVᵀ يعمل لأي مصفوفة. يكشف الرتبة ورقم التكييف وجميع الفضاءات الجوهرية الأربعة والتقريب الأمثل منخفض الرتبة. المعكوس التعميمي A⁺ = VΣ⁺Uᵀ يحل أي منظومة خطية.
الوحدة 7: تحليلات المصفوفات
تحليل القيم الشاذة — تم ✓
11 / 11