PCA وتقليل الأبعاد
للبيانات بنية خفية. تكشفها PCA بالتحليل الطيفي لمصفوفة التباين المشترك — مستخرجةً اتجاهات أقصى تباين، ومُضغِّطةً التمثيلات، ومُقلِّلةً الضوضاء في الإشارات عالية الأبعاد.
البيانات كسحابة في فضاء عالي الأبعاد
N ملاحظة، لكل منها d خاصية، تُشكِّل سحابة من N نقطة في ℝᵈ. البيانات الطبيعية متكررة للغاية — السحابة تقع بالقرب من فضاء جزئي منخفض الأبعاد. تجد PCA ذلك الفضاء الجزئي.
مصفوفة التباين المشترك
اطرح متوسط كل خاصية للحصول على X̃. تُشفِّر مصفوفة التباين المشترك العينية جميع الترابطات الزوجية بين الخصائص:
C متماثلة وشبه موجبة التحديد. القيم الكبيرة خارج القطر تعني التكرار — قابلية الضغط.
التحليل الطيفي
تضمن المبرهنة الطيفية قاعدة تعامدية معيارية كاملة:
كل قيمة ذاتية λₖ = التباين على طول المتجه الذاتي qₖ. المتجهات الذاتية هي المحاور الرئيسية لقطع البيانات الإهليلجي.
إسقاط PCA على k مركّبة
احتفظ بأعلى k متجه ذاتي. التمثيل منخفض الأبعاد هو:
هذا هو المشفِّر الخطي الأمثل برتبة k — من بين جميع الإسقاطات الخطية على k أبعاد، هذا يُصغِّر خطأ إعادة البناء (مبرهنة إيكارت-يونغ).
نسبة التباين المُفسَّر
نسبة التباين الكلي الملتقط بأعلى k مركّبات:
اختر k بحيث EVR(k) ≥ 0.95. للصور والكلام وبيانات الحساسات، 95% من التباين يناسب أحيانًا أقل من 5% من الأبعاد.
مخطط الحصاة (Scree Plot)
ارسم القيم الذاتية بترتيب تنازلي. ابحث عن "المرفق" — النقطة التي ينحني فيها المنحنى من منحدر حاد إلى مسطح. يكشف المرفق البُعد الجوهري للبيانات.
- قبل المرفق: مركّبات الإشارة — قيم ذاتية كبيرة ومتباينة
- بعد المرفق: مستوى الضوضاء — قيم ذاتية صغيرة وشبه ثابتة
- لا مرفق: البيانات عالية الأبعاد فعلًا أو سيئة البنية
- مرافق متعددة: بنية هرمية بمقاييس مختلفة
الضغط والتصوير
تدعم PCA تطبيقين فوريين: الضغط (الاحتفاظ بـ k ≪ d معامل لكل عينة) والتصوير (الإسقاط على ثنائي أو ثلاثي الأبعاد لرؤية بنية التجمعات).
تقليل الضوضاء عبر إسقاط الفضاء الجزئي
للبيانات المشوبة x̃ = s + n (إشارة برتبة k + ضوضاء بيضاء σ²I)، أعلى k قيمة ذاتية تتجاوز σ². اسقط على الفضاء الجزئي للإشارة لكبت الضوضاء:
هذا المُقلِّل بالعتبة الصلبة هو أمثل بمعيار فروبينيوس للإشارات ذات الرتبة المعروفة (إيكارت-يونغ).
أهم النقاط
- PCA تُحلِّل C = QΛQᵀ طيفيًا؛ القيم الذاتية = تباين على طول الاتجاهات الرئيسية
- أعلى k متجه ذاتي يعطي أمثل مشفِّر خطي برتبة k (مبرهنة إيكارت-يونغ)
- EVR(k) = (λ₁+…+λₖ)/tr(C) يقيس نسبة التباين المحفوظ
- مرفق مخطط الحصاة يكشف البُعد الجوهري؛ استخدم 95% EVR كعتبة افتراضية
- إسقاط الفضاء الجزئي QₖQₖᵀx̃ يُقلِّل الضوضاء في إشارات برتبة k مثلى
الجبر الخطي في معالجة الإشارات
رأيت الجبر الخطي يلتقي بإشارات حقيقية: الالتفاف كضرب مصفوفات، تصميم المرشح الأمثل بالمربعات الصغرى ووينر-هوبف، والآن PCA تحوِّل التحليل الطيفي إلى آلة لضغط البيانات وتقليل ضوضائها.