مصنّف الهامش الأقصى

رسم أفضل خط ممكن

تخيّل أنك تمتلك مجموعتين من النقاط على مستوى ثنائي الأبعاد — حمراء وزرقاء — وعليك رسم خط يفصل بينهما. ثمة ما لا نهاية من الخطوط التي قد تنجح. لكن أيّها الأفضل؟ الإجابة التي تقدمها آلات المتجهات الداعمة (SVMs) تتسم بالأناقة: اختر الخط الأبعد ما يمكن عن كلتا المجموعتين. هذه هي فكرة مصنّف الهامش الأقصى.

المنطق هنا أن حدّ القرار البعيد عن الفئتين أكثر قدرة على التعميم. أما الحدّ المقترب من إحدى الفئتين، فسيُخطئ في تصنيف نقاط لا تختلف كثيرًا عن بيانات التدريب. بتعظيم الفجوة — أي الهامش — نبني متانةً ضد التغيرات الطفيفة في البيانات.

المستوى الفاصل

في البُعدين، حدّ القرار خط. في أبعاد أعلى، هو مستوٍ فائق (Hyperplane): فضاء مسطّح بأبعاد (n−1) في فضاء ميزات n-بُعدي. يُعرَّف المستوى الفائق بمتجه الأوزان w والانحياز b. أي نقطة x على المستوى تحقق:

للتصنيف، نحدد الفئة بناءً على الجانب الذي تقع عليه النقطة: إذا كانت w^Tx + b > 0 نتنبأ بالفئة +1؛ وإذا كانت < 0 نتنبأ بالفئة −1. المستوى الفائق نفسه (حيث التعبير يساوي الصفر) هو حدّ القرار.

الهامش

الهامش هو العرض الكلي للشريط بين الفئتين، مقيسًا بشكل عمودي على حدّ القرار. تُعرِّف آلات المتجهات الداعمة مستويَيْن فائقَيْن متوازيَيْن للهامش، واحد لكل فئة: w^Tx + b = +1 وw^Tx + b = −1. يجب أن تقع بيانات التدريب على هذَيْن المستويَيْن أو خارجهما. الهامش — المسافة بين المستويَيْن — هو:

لتعظيم الهامش، نُصغِّر ‖w‖ مع اشتراط تصنيف جميع نقاط التدريب بشكل صحيح وقوعها خارج شريط الهامش. هذه مسألة تحسين تربيعية محدبة لها حل أمثل عالمي واحد — ميزة جوهرية مقارنة بأساليب كالشبكات العصبية التي قد تتعدد فيها النهايات الدنيا المحلية.

متجهات الدعم

نقاط التدريب التي تقع بالضبط على مستويَيْ الهامش (حيث w^Tx + b = ±1) تُسمى متجهات الدعم. هذه هي النقاط الأقرب إلى حدّ القرار من كل فئة، وهي وحدها التي تحدد موضع المستوى الفائق واتجاهه.

هذه خاصية عميقة: يعتمد حلّ آلة المتجهات الداعمة على جزء صغير فقط من بيانات التدريب. لو حذفت أي نقطة ليست متجه دعم، فلن يتغير حدّ القرار. يجعل هذا التناثرُ الخوارزميةَ فعّالة في مرحلة التنبؤ — إذ يكفي تخزين متجهات الدعم وحدها.

آلة المتجهات الداعمة ذات الهامش الصلب

عندما تكون البيانات قابلة للفصل الخطي — أي يوجد مستوٍ فائق واحد على الأقل يفصلها تمامًا — يمكن استخدام آلة المتجهات الداعمة ذات الهامش الصلب. وتجد المستوى الفائق ذا الهامش الأقصى دون أي أخطاء في التصنيف. مسألة التحسين هي:

نقطة ضعف الهامش الصلب الجوهرية: يشترط قابلية الفصل الخطي التامة. البيانات الواقعية نادرًا ما تحقق ذلك — ثمة دائمًا ضوضاء أو قيم شاذة أو فئات متداخلة. نقطة واحدة في موضع خاطئ قد تجعل المسألة غير قابلة للحل. وهذا ما يستدعي توسيع الهامش اللين.

آلة المتجهات الداعمة ذات الهامش اللين

يُرخّي الهامش اللين القيودَ الصارمة بإدخال متغيرات الترخيص ξ_i ≥ 0، واحدة لكل نقطة تدريب. يمثّل متغير الترخيص مقدار انتهاك القيد: ξ_i = 0 يعني تصنيفًا صحيحًا وخارج الهامش؛ 0 < ξ_i ≤ 1 يعني النقطة داخل الهامش لكن مصنّفة بشكل صحيح؛ ξ_i > 1 يعني خطأً في التصنيف.

المعامل C

معامل التنظيم C هو أهم فائق-معامل في آلة المتجهات الداعمة. يتحكم في التوازن بين تعظيم الهامش وتقليل خطأ التدريب:

C كبير: عقوبة التصنيف الخاطئ عالية، فيسعى النموذج لتصنيف جميع النقاط بشكل صحيح. ينتج هامش أضيق لكن أخطاء تدريب أقل. تحيّز أقل لكن تباين أعلى — قد يفرط في التخصيص مع البيانات المشوّشة.

C صغير: العقوبة منخفضة مما يتيح انتهاكات الهامش. يُعطي الأولوية للهامش الواسع على حساب التصنيف المثالي. يُنتج حدًا أكثر نعومة وتنظيمًا — تحيّز أعلى لكن تباين أقل، وهو أفضل للبيانات المشوّشة أو المتداخلة.

عند C → ∞، يتقارب الهامش اللين مع الهامش الصلب. عمليًا، يُختار C بالتحقق المتقاطع، عادةً بالبحث على مقياس لوغاريتمي (مثلًا: 0.001، 0.01، 0.1، 1، 10، 100).

نقاط القوة والقيود

يمتلك مصنّف الهامش الأقصى خصائص مقنعة عدة. له أسس نظرية متينة مجذّرة في نظرية التعلم الإحصائي — تعظيم الهامش يُصغّر مباشرة حدًا أعلى لخطأ التعميم. كما يتميز بالفعالية في الفضاءات عالية الأبعاد، وهذا ما جعله في طليعة تصنيف النصوص لسنوات طويلة. والتمثيل التناثري باستخدام متجهات الدعم وحدها يجعل التنبؤ فعّالًا.

غير أن آلات المتجهات الداعمة ذات الهامش الصلب والليّن مقيّدة بالمسائل القابلة للفصل الخطي (أو شبه الخطي). كثير من المسائل الواقعية تستلزم حدودًا غير خطية — قد تتشكل الفئات كعناقيد أو حلزونات أو دوائر متحدة المركز لا يستطيع أي مستوٍ فائق فصلها. تُعالَج هذه القيود بأناقة عبر خدعة النواة التي ندرسها في الدرس التالي.