لعنة الأبعاد
البيانات عالية الأبعاد مخادعة. قد تبدو مجموعة بيانات بألف ميزة غنيةً بالمعلومات، غير أنه كلما تزايدت الأبعاد، تضخّم حجم الفضاء بسرعة هائلة، وصارت البيانات متناثرة في كل مكان تقريبًا. تفقد مقاييس المسافة معناها — في الأبعاد العالية جدًا، يتقارب الفرق بين أقرب نقطة وأبعد نقطة من أي نقطة، مما يُخل بالبحث عن الجيران الأقرب والتجميع. هذه هي لعنة الأبعاد.
يعالج تقليل الأبعاد هذه المشكلة بإسقاط البيانات من فضاء عالي الأبعاد إلى تمثيل أقل أبعادًا يحتفظ بأكبر قدر ممكن من البنية. الأهداف عملية: تدريب أسرع، وتعميم أفضل، وتقليل استهلاك الذاكرة، وما هو أهم — القدرة على تصوير البيانات التي لا يستطيع الإنسان رؤيتها بطريقة أخرى.
ثمة استراتيجيتان رئيسيتان: الأساليب الخطية التي تجد إسقاطات ذات أبعاد منخفضة عبر تحويلات خطية، والأساليب غير الخطية التي تتعلم منحنيات التشعب عبر البيانات. تحليل المكونات الرئيسية (PCA) هو الأسلوب الخطي الكلاسيكي؛ وt-SNE وUMAP هما الأساليبان غير الخطيتان السائدتان.
تحليل المكونات الرئيسية (PCA)
يجد PCA اتجاهات أقصى تباين في البيانات ويُسقط البيانات على تلك الاتجاهات. كل اتجاه هو مكوّن رئيسي — محور متعامد في فضاء الميزات الأصلي. يلتقط المكوّن الأول أكبر قدر من التباين، ويلتقط الثاني (المتعامد على الأول) التالي، وهكذا.
المكونات الرئيسية هي متجهات الأيغن لمصفوفة التباين المشترك للبيانات، مرتبةً وفق قيمها الذاتية. تخبرك قيمة أيغن كل مكوّن بمقدار التباين الذي يلتقطه. لتقليل الأبعاد، تُبقي فقط على أعلى k مكوّنًا وتُسقط البيانات على الفضاء الجزئي ذي الأبعاد k.
يُحسب PCA عبر تحليل القيمة الشاذة (SVD) لمصفوفة البيانات المُمركزة، وهو أكثر استقرارًا عدديًا من تشكيل مصفوفة التباين المشترك بشكل صريح. النتيجة دقيقة وحتمية.
ارسم نسبة التباين المفسَّر التراكمي مع إضافة المكونات الرئيسية. يرتفع المنحنى بشدة في البداية ثم يتسطح. اختر k عند "المرفق" — النقطة التي تُعطي عندها المكونات الإضافية عوائد متناقصة. للتصوير، k = 2 أو k = 3 هو الهدف دائمًا.
PCA قوةٌ معالِجة مسبقة. يُزيل الميزات المترابطة، ويُقلل الضوضاء (المكونات ذات قيم الأيغن الصغيرة كثيرًا ما تلتقط الضوضاء لا الإشارة)، ويُسرّع الخوارزميات اللاحقة. قيوده الرئيسية هي الخطية: لا يستطيع التقاط البنية المنحنية وغير الخطية في البيانات.
t-SNE: التصوير غير الخطي
يتبع t-SNE (التضمين العشوائي للجيران بتوزيع t) نهجًا مختلفًا جوهريًا. يُنمذج التشابه بين النقاط كاحتمالات — يجب أن تظل أزواج النقاط المتشابهة في الفضاء العالي الأبعاد قريبةً في التضمين منخفض الأبعاد؛ بينما تُدفع النقاط غير المتشابهة بعيدًا. ثم يُقلل عدم التطابق بين التوزيعات الاحتمالية في الفضاءين.
في الفضاء العالي الأبعاد، يستخدم t-SNE نواة غاوسية لتعريف توزيع احتمالي P فوق أزواج النقاط بناءً على مسافاتها. في التضمين منخفض الأبعاد، يستخدم توزيع Student-t أثقل ذيلًا بدرجة حرية واحدة (توزيع كوشي). تسمح الأذناب الثقيلة بإبعاد النقاط المتوسطة المسافة أكثر في التضمين، مما يُخفف مشكلة الاكتظاظ التي تُصيب الأساليب الغاوسية.
t-SNE للتصوير فقط — ولا يُستخدم أبدًا كمعالجة مسبقة قبل خوارزمية أخرى. مقياس المحاور لا معنى له؛ لا يُفسَّر سوى انتماء العناقيد. المسافات بين العناقيد غير محفوظة. شغّل t-SNE عدة مرات ببذور عشوائية مختلفة واستخدم تهيئة PCA لضمان القابلية للتكرار. يتحكم معامل الحيرة (perplexity، عادةً 5–50) في العدد الفعلي للجيران المعتبَرين لكل نقطة.
UMAP: أسرع وأكثر أمانةً
UMAP (تقريب التشعب الموحد والإسقاط) أسلوب أحدث مبني على الهندسة الريمانية والطوبولوجيا الجبرية. مثل t-SNE يحافظ على البنية المحلية، غير أنه أسرع بكثير، ويتوسع لمجموعات بيانات أكبر، ويحافظ (خلافًا لـ t-SNE) على البنية العالمية بشكل أفضل — المواضع النسبية للعناقيد ذات معنى أكبر في مخطط UMAP منه في t-SNE.
يبني UMAP تمثيلًا طوبولوجيًا ضبابيًا للبيانات عالية الأبعاد ثم يُحسّن تضمينًا منخفض الأبعاد ليطابقه. المعاملات الرئيسية هي n_neighbors (يتحكم في البنية المحلية مقابل العالمية، مماثل للحيرة في t-SNE) وmin_dist (مدى تقارب النقاط في التضمين).
UMAP هو المعيار الحالي للتصوير عالي الأبعاد. يعمل في وقت شبه خطي (مقارنةً بـ O(n² log n) لـ t-SNE)، ويستطيع تضمين نقاط جديدة بعد التدريب (t-SNE لا يستطيع)، وينتج تضمينات تتعمم بشكل أفضل عبر تشغيلات متعددة.
اختيار الأسلوب المناسب
PCA هو الخيار الافتراضي للمعالجة المسبقة واستكشاف البنية الخطية. استخدمه أولًا دائمًا. إنه سريع وحتمي وقابل للتفسير ويتوسع لملايين النقاط. طبّقه قبل t-SNE أو UMAP لتقليل الأبعاد من الآلاف إلى ~50 ميزة قبل الخطوة غير الخطية المكثفة.
t-SNE يتميز في الكشف عن العناقيد المتراصة والمنفصلة بشكل جيد في مجموعات بيانات صغيرة إلى متوسطة (حتى ~100,000 نقطة). إنه الأداة القياسية في الجينوميات وبيولوجيا الخلايا الفردية، حيث يكون اكتشاف الأنواع الفرعية في الملامح الخلوية عالية الأبعاد أمرًا بالغ الأهمية. ضعفه هو السرعة وعدم القدرة على تضمين نقاط جديدة.
UMAP هو الخيار المفضل لمجموعات البيانات الأكبر، أو عندما تكون البنية العالمية مهمة، أو عندما تحتاج إلى تضمين بيانات جديدة بعد التدريب. إنه أسرع وأكثر قابلية للتوسع، وبات المعيار بشكل متزايد لتحليل تضمينات NLP، وأنظمة التوصيات، وتصوير ميزات الصور.
- لعنة الأبعاد تجعل البيانات عالية الأبعاد متناثرة ومقاييس المسافة غير موثوقة — تقليل الأبعاد ضرورة لا غنى عنها.
- يجد PCA اتجاهات أقصى تباين عبر متجهات أيغن مصفوفة التباين المشترك؛ فهو خطي وسريع وقابل للتفسير.
- تخبرك نسبة التباين المفسَّر بعدد المكونات التي ينبغي الإبقاء عليها؛ ومخطط المرفق يُرشد الاختيار.
- يحافظ t-SNE على بنية الجوار المحلي للتصوير؛ المحاور لا معنى لها ولا يمكن مقارنة العناقيد مباشرةً عبر تشغيلات مختلفة.
- UMAP أسرع ويحافظ على بنية عالمية أكبر من t-SNE؛ يستطيع تضمين نقاط جديدة وهو المعيار الحالي للتصوير واسع النطاق.
- سير العمل: طبّق PCA أولًا على ~50 بُعدًا، ثم t-SNE أو UMAP للتصوير ثنائي أو ثلاثي الأبعاد.
- تقليل الأبعاد للفهم والمعالجة المسبقة — وليس بديلًا عن هندسة الميزات.