قراءة
وضع القصص

التطور كاستراتيجية بحث

~٢٠ دقيقة قراءة الدرس 1 من 4 في الوحدة 13

حين لا يوجد تدرّج نتبعه

كل طريقة في هذه الدورة حتى الآن سألت دالة الهدف السؤال ذاته: أي اتجاه ينزل بنا؟ يجيب النزول التدرجي في الوحدة 2 عن هذا السؤال بالمشتقة. ويجيب الانتشار العكسي في الوحدة 6 بدفع تلك المشتقة عبر طبقات متراكمة. الطريقتان فعّالتان إلى حد مذهل، وكلتاهما تعتمد على صحة أمر واحد — أن الكمية التي تريد تحسينها دالة ناعمة في الأرقام التي يُسمح لك بتغييرها.

كثير من الأهداف الحقيقية ليست كذلك. أربعة أنواع تظهر باستمرار:

خيارات منفصلة. أي الميزات المرشحة الأربعين ينبغي أن يراها النموذج؟ لا توجد مشتقة بالنسبة إلى «أضمّن الميزة 7 أو لا» — إنه مفتاح نعم أو لا، وليس مقبضًا متدرجًا. بنية توافقية. بأي ترتيب ينبغي أن يزور فريق الصيانة 20 موقع خدمة خلوية؟ الجواب ترتيبٌ لعناصر، ودفع ترتيبٍ بمقدار لا نهائي الصغر كلام بلا معنى. أهداف مبنية على المحاكاة. إذا كانت الدرجة تخرج من محاكي شبكة أو نموذج طوابير أو قياس فيزيائي، فلا صيغة تُشتق — بل إجراء يُنفَّذ. صناديق سوداء. إذا كان ما تقيّمه ملفًا تنفيذيًا من مورّد أو قطعة عتاد، فأنت تحصل على مخرجات مقابل مدخلات ولا شيء غير ذلك.

خُذ حالة اختيار الميزات بشكل ملموس. مع 8 ميزات مرشحة هناك 2⁸ = 256 مجموعة جزئية ممكنة، ويمكنك تجربتها كلها ببساطة. مع 40 مرشحًا هناك 2⁴⁰ = 1,099,511,627,776 مجموعة جزئية. وإذا كان التقييم الواحد يعني تدريب نموذج وتقييمه في ثانية واحدة، فالبحث الشامل ينتهي بعد نحو أربعة وثلاثين ألف سنة. الفضاء منتهٍ ومحدد تمامًا، وميئوس من تعداده.

ما تستطيع فعله مع ذلك هو أن تقيّم وتقارن. قد لا تعرف شكل دالة الهدف، لكنك تستطيع أن تسلّمها مرشحًا وتقرأ منها رقمًا. هذه هي الواجهة الوحيدة التي تحتاجها الخوارزمية الجينية على الإطلاق.

مسألة تحسين الصندوق الأسود
x^{\star} = \arg\max_{x \in \mathcal{S}} f(x)
جد عضو فضاء البحث S الذي يحقق أعلى درجة بموجب دالة الهدف f. لا شيء هنا يفترض أن S متصل، ولا أن f لها مشتقة، ولا حتى أن f مكتوبة صراحةً — فقد تكون f محاكيًا أو جولة تدريب أو قياسًا مخبريًا. العملية الوحيدة المفترضة إتاحتها هي تقييم f عند نقطة تختارها أنت.

نقطة واحدة تنزل، أو مجتمع منتشر

يحتفظ النزول التدرجي بمرشح حل واحد بالضبط ويحرّكه. كل خطوة تقرأ الميل المحلي وتخطو عكسه.

للمقارنة: خطوة التدرّج
\mathbf{w}_{t+1} = \mathbf{w}_t - \alpha \nabla L(\mathbf{w}_t)
التحديث من الوحدة 2، مُعاد هنا للمقارنة فقط. نقطة واحدة، واتجاه واحد، ومعلومات مأخوذة من مشتقة الخسارة عند تلك النقطة. لاحظ الترميز: الوحدات 1 إلى 3 تسمي معدل التعلم α والوحدة 6 تسميه η — الكمية ذاتها برمزين. لا يوجد في الطرائق المجتمعية نظير لهذه المعادلة إطلاقًا، لأنها لا تحسب ميلًا أبدًا.

تحتفظ الطريقة المجتمعية بمرشحين كثيرين في الوقت نفسه، وتستقي معلوماتها من المقارنات بينهم. لا يسأل أحد أي اتجاه أفضل؛ الخوارزمية تسأل فقط أي مرشح أفضل. هذا الفرق يشتري ثلاثة أمور:

مناطق عديدة في الوقت ذاته. متسلّق التل الواحد يلتزم بالجوار الذي بدأ فيه. أما مجتمع من 50 مرشحًا فقد يكون جالسًا في أحواض عدة في اللحظة نفسها، والمرشحون في الأحواض السيئة رخيصون للتخلي عنهم. أجزاء، لا نقاط فقط. قد يحمل مرشحان متوسطان كلٌّ منهما شذرة مفيدة — أحدهما لديه مجموعة الميزات الصحيحة، والآخر قوة التنظيم الصحيحة. إعادة التركيب هي ما يتيح للطريقة تجميع ابن من كليهما، وهي المكوّن الذي لا تملكه أي طريقة أحادية النقطة. لا شرط للنعومة. المقارنة تعمل على أي شيء يمكن ترتيبه: أعداد صحيحة، أو تباديل، أو أشجار برامج، أو خيارات فئوية.

ما يكلّفه المجتمع

كن صريحًا في الفاتورة. خطوة التدرّج الواحدة تحتاج تمريرة أمامية واحدة وأخرى خلفية. أما الجيل الواحد فيحتاج تقييمًا كاملًا لدالة الهدف لكل فرد — فمجتمع من 50 يعمل 100 جيل هو 5,000 تقييم، وإذا كان التقييم يعني تدريب نموذج فتلك 5,000 جولة تدريب. المجتمع ليس قوة إضافية مجانية؛ إنه ثمن ألّا يكون لديك مشتقة تتبعها. يعود الدرس 13.4 إلى هذه المقايضة بصراحة.

المكوّنات الأربعة

وضع جون هولاند هذا المخطط في كتابه Adaptation in Natural and Artificial Systems (1975)، وكتاب ديفيد غولدبرغ Genetic Algorithms in Search, Optimization, and Machine Learning (1989) هو المرجع الذي حمله إلى الممارسة الهندسية. انزع المفردات البيولوجية وستجد أن أي خوارزمية جينية هي أربعة قرارات:

1. التمثيل. كيف يُكتب مرشح الحل الواحد؟ سلسلة بتات، أو متجه أعداد حقيقية، أو ترتيب لعناصر، أو شجرة. هذا الاختيار يقيّد كل ما يليه، لأن عوامل التنويع لا بد أن تعمل على ما اخترته. 2. الملاءمة. الرقم الواحد الذي يقول كم المرشح جيد. هذه هي دالة الهدف، والدرس 13.3 مكرَّس بالكامل لإصابتها. 3. الانتقاء. أي المرشحين يصير أبًا. من هنا يأتي اتجاه البحث. 4. التنويع. كيف يختلف الأبناء عن الآباء — إعادة تركيب أبوين (التهجين) وتغيير عشوائي صغير (الطفرة).

جيل واحد، تجريديًا
P_{t+1} = \mathrm{var}\big(\mathrm{sel}(P_t, f)\big)
يصير المجتمع P هو المجتمع التالي بتطبيق الانتقاء sel — وهو الخطوة الوحيدة التي تستشير دالة الملاءمة f — ثم التنويع var. الانتقاء يُزيل التنوع ويحرّك المجتمع نحو ما يحقق درجات جيدة أصلًا؛ والتنويع يخلق التنوع ويستكشف. سلوك الخوارزمية الجينية بأكمله هو التوازن بين هذين الضغطين المتعاكسين. يملأ الدرس 13.2 خيارات ملموسة لـ S وV.

ضغط الانتقاء، والفشل الكلاسيكي

ضغط الانتقاء هو مدى قوة تفضيل المرشحين الأفضل من المتوسط عند اختيار الآباء. إنه أهم إعداد في الطريقة كلها من حيث الأثر، وإخطاؤه هو الطريقة الكلاسيكية التي تفشل بها الخوارزمية الجينية وهي تبدو ناجحة.

أقدم المخططات، الانتقاء التناسبي مع الملاءمة، يمنح كل فرد نصيبًا من مقاعد الأبوة يتناسب مع ملاءمته:

الانتقاء التناسبي مع الملاءمة
p_i = \frac{f(x_i)}{\sum_{j=1}^{N} f(x_j)}
احتمال اختيار الفرد i أبًا. ولأنه يستخدم قيم الملاءمة الخام، فالضغط الذي يطبّقه يعتمد على مقياس تلك القيم، لا على ترتيبها وحده — وهذا هو الضعف الذي صُمّم الانتقاء بالرتبة لإزالته.

الضغط الزائد هو نمط الفشل الذي ينبغي أن تخشاه. إذا أخذ أفضل فرد معظم مقاعد الأبوة، فإن نسخه تملأ المجتمع في غضون أجيال قليلة. وحينها يزول التنوع، ومعه التهجين: فإعادة تركيب أبوين متطابقين تقريبًا تُنتج الأب نفسه. ولا يبقى إلا الطفرة، فتتحول الطريقة بهدوء إلى مسير عشوائي بطيء حول نقطة واحدة — وهو هدوء فعلًا، لأن الملاءمة المتوسطة تكفّ عن التغيّر وتبدو الجولة متقاربة. هذا هو التقارب المبكر، ويتناول الدرس 13.3 كيف تكشفه وتقاومه.

الضغط الضعيف يفشل بصورة أقل درامية وبالقدر ذاته من التمام. إذا اختير الآباء بشكل يقارب المنتظم، فلن تُحفظ البنية الجيدة مدةً تكفي للبناء عليها، ويهيم المجتمع. تكون قد دفعت ثمن مجتمع واشتريت بحثًا عشوائيًا.

لماذا يهم مقياس أرقام الملاءمة

افترض أن مرشحين حصلا على 10 و9. يمنح الانتقاء التناسبي الأفضلَ منهما 10/19 = 0.53 من مقاعد الأبوة — ميزة حقيقية. الآن أضف 990 إلى كلٍّ منهما، وهو ما لا يغيّر شيئًا في أيّهما أفضل: يصيران 1000 و999، ويهبط نصيب الأفضل إلى 1000/1999 = 0.5003. يكاد الانتقاء يتوقف عن التمييز، وذلك بسبب إزاحة ثابتة فقط. الانتقاء بالرتبة عند جيمس بيكر (1985) يُزيل هذا بإلقاء القيم الخام والانتقاء على الرتبة وحدها، فلا تستطيع إزاحة ثابتة تغيير أي شيء. وحلّل براد ميلر وديفيد غولدبرغ (1995) انتقاء المباريات بالروح ذاتها: حجم المباراة مقبض صريح قابل للضبط على ضغط الانتقاء، بدلًا من أن يكون حادثًا عارضًا لكيفية قياس هدفك.

أين تقع الخوارزمية الجينية

الخوارزميات الجينية خيار واحد من عدة خيارات لهدف بلا مشتقة، ويساعد أن ترى العائلة مرتبةً بحسب مقدار الذاكرة التي تحفظها كل طريقة.

البحث العشوائي يعيّن مرشحين بشكل مستقل. لا ذاكرة له إطلاقًا، فهو لا يتحسن أبدًا في التخمين — لكنه متوازٍ بسهولة تامة، وهو خط أساس جدّي لا رجل قش. البحث الشبكي يُعدّد شبكةً منتظمة. إنه منهجي وقابل للتكرار، وعدد النقاط التي يحتاجها يتضاعف مع كل بُعد تضيفه، ولهذا يحذرك الدرس 10.2 منه في ضبط المعاملات الفائقة عالية الأبعاد. تسلّق التل يحتفظ بمرشح واحد ويقبل الحركات المحسّنة فقط. يستثمر جيدًا ويتعلق في أول أمثلية محلية يقابلها؛ وإعادة البدء العشوائية هي الرقعة المعتادة. التلدين المحاكى يحتفظ كذلك بمرشح واحد لكنه يقبل أحيانًا حركة أسوأ، باحتمال يتقلص مع خفض معامل حرارة — استكشاف مبكر واستثمار متأخر، ونقطة واحدة على طول الطريق. الخوارزميات الجينية تحتفظ بمجتمع وتضيف إعادة التركيب: القدرة على بناء ابن من أجزاء أبوين مختلفين. هذا العامل هو ما يميزها عن كل ما سبق، وغولدبرغ (1989) صريح في أن طرائق البحث التقليدية — القائمة على التفاضل، والتعدادية، والعشوائية المحضة — كلٌّ منها يفشل على صنف مختلف من المسائل، وهذه هي الحجة على إتاحة هذه العائلة أصلًا.

التطور استراتيجية بحث، لا صنف نماذج

هذا هو الإطار الذي ينبغي التمسك به، وهو الأكثر تشويشًا في العادة. الخوارزمية الجينية ليست منافسًا للغابة العشوائية أو للشبكة العصبية. إنها لا تتعلم من بيانات موسومة، ولا تُنتج نموذجًا. إنها طريقة لاختيار — أي الميزات، وأي المعاملات الفائقة، وأي البنية، وأي الجدولة، وأي مجموعة قواعد — وصنف النموذج هو ما تدرّبه وتقيّمه دالة الملاءمة داخل الحلقة.

ينتج عن ذلك أمران فورًا. أولًا، الخوارزمية الجينية ليست أفضل من دالة الملاءمة التي أعطيتها؛ ولا يوجد لها مقابل لعبارة «مزيد من البيانات سيحل المشكلة». ثانيًا، إذا كان هدفك قابلًا للاشتقاق فاستخدم المشتقة. المشتقة تعطيك اتجاهًا في تقييم واحد؛ أما المجتمع فعليه أن يستنبط اتجاهًا من تقييمات كثيرة. اللجوء إلى التطور والتفاضل متاح هو أشيع طريقة لإنفاق مئة ضعف الحساب مقابل جواب أسوأ — وهي نقطة يطرحها الدرس 13.4 مع حسابات الكلفة مبسوطة.

ولا شيء من هذا مضمون أن يجد أفضل حل. الخوارزمية الجينية استدلالية: تقايض الضمان بالقدرة على العمل على مسائل لا يُعرض فيها أي ضمان بأي ثمن. ما تتحكم فيه هو الميزانية — حجم المجتمع مضروبًا في عدد الأجيال — وما تحصل عليه هو أفضل مرشح رأيته داخلها.

أبرز ما تعلمته
  • يحتاج النزول التدرجي والانتشار العكسي هدفًا قابلًا للاشتقاق. الخيارات المنفصلة والتباديل ومخرجات المحاكاة والصناديق السوداء لا توفّره، وهذه هي الفجوة التي يملؤها البحث التطوري.
  • اختيار ميزات من 40 مرشحًا يعني الاختيار بين 2⁴⁰ = 1,099,511,627,776 مجموعة جزئية — منتهية ومحددة تمامًا ويستحيل تعدادها.
  • تستبدل الطريقة المجتمعية سؤال «أي اتجاه أفضل» بسؤال «أي مرشح أفضل»، وهو لا يحتاج إلا القدرة على التقييم والمقارنة.
  • كل خوارزمية جينية أربعة قرارات: التمثيل، والملاءمة، والانتقاء، والتنويع. وضع هولاند (1975) المخطط، وحمله غولدبرغ (1989) إلى الممارسة الهندسية.
  • الانتقاء يُزيل التنوع والتنويع يخلقه؛ وسلوك الطريقة كلها هو التوازن بين الاثنين.
  • ضغط الانتقاء الزائد يسبب التقارب المبكر: يمتلئ المجتمع بنسخ مرشح واحد، ويتوقف التهجين عن فعل أي شيء، وتبدو الجولة متقاربة وهي عالقة فقط.
  • الانتقاء التناسبي مع الملاءمة حسّاس لمقياس قيم الملاءمة. الانتقاء بالرتبة (بيكر، 1985) وانتقاء المباريات (ميلر وغولدبرغ، 1995) يجعلان الضغط مقبضًا صريحًا بدلًا من ذلك.
  • بين الطرائق الخالية من المشتقة، إعادة التركيب هي ما يميز الخوارزميات الجينية عن البحث العشوائي والبحث الشبكي وتسلّق التل والتلدين المحاكى.
  • الخوارزمية الجينية استراتيجية بحث لا صنف نماذج. وإذا كان الهدف قابلًا للاشتقاق فاستخدم المشتقة.
السابق المسار المهني والموارد نظرة عامة التالي حلقة الخوارزمية الجينية