تعلم الآلة 101
و11 · د03
التعلم العميق التطبيقي

النماذج التوليدية

VAEs وGANs ونماذج الانتشار والتدفقات الطبيعية — تعلّم توزيعات البيانات وتوليد عينات جديدة من لا شيء.

01 / 13
تعلم الآلة 101
و11 · د03
التمييز الجوهري

تمييزي مقابل توليدي

النماذج التمييزية تتعلم p(y|x) — تنبأ بالتسمية. النماذج التوليدية تتعلم p(x) — توزيع البيانات ذاته — مُتيحةً استحداث عينات جديدة.

التحدي الجوهري
صورة 256×256 تعيش في فضاء بـ196K بُعد. الصور الطبيعية تشغل مجموعة فرعية ضئيلة ومنظمة منه. النماذج التوليدية يجب أن تجد هذا المنوال.
02 / 13
تعلم الآلة 101
و11 · د03
VAE

المشفرات التغايرية

المشفر يُحوِّل x → خفي (μ, σ²). خذ عينة z ~ N(μ, σ²) عبر إعادة المعاملة. مفكك الترميز يُعيد بناء x من z. حسِّن ELBO.

هدف ELBO
\mathcal{L}=\mathbb{E}[\log p_\theta(x|z)]-D_{\mathrm{KL}}(q_\phi(z|x)\|p(z))
03 / 13
تعلم الآلة 101
و11 · د03
حيلة VAE

حيلة إعادة المعاملة

أخذ عينة z مباشرةً يحجب التدرجات. بدلًا من ذلك، خذ ε ~ N(0, I) واحسب z = μ + σ·ε. تنتقل العشوائية خارج الرسم البياني الحسابي.

سلس
فضاء خفي منظم — الاستيفاء يعمل
ضبابي
إعادة بناء MSE → متوسط على عدم اليقين
04 / 13
تعلم الآلة 101
و11 · د03
GANs

التدريب التعاكسي

المولد G يُحوِّل الضجيج z إلى عينات اصطناعية. المميز D يُميِّز الحقيقي من المزيف. يلعبان لعبة minimax.

هدف GAN
\min_G\max_D\;\mathbb{E}[\log D(x)]+\mathbb{E}[\log(1-D(G(z)))]
05 / 13
تعلم الآلة 101
و11 · د03
أنماط فشل GAN

عدم الاستقرار وانهيار الأنماط

  • انهيار الأنماط — G يُنتج عينات قليلة فقط؛ يتجاهل التنوع
  • تلاشي التدرجات — D قوي → تدرجات G شبه معدومة → G يتوقف
  • WGAN-GP — مسافة Wasserstein + عقوبة التدرج تحل مشكلة التلاشي
  • Spectral norm — قيد Lipschitz على D بدون عقوبة صريحة
  • النمو التدريجي — من 4×4 تدريجيًا → وجوه 1024×1024 مستقرة
06 / 13
تعلم الآلة 101
و11 · د03
نماذج الانتشار

التبدُّد للتوليد

أضف ضجيجًا غاوسيًا تدريجيًا عبر T خطوة (الأمام). درِّب شبكة U-Net على التنبؤ بالضجيج وإزالته في كل خطوة (العكس).

خسارة التدريب
\mathcal{L}=\mathbb{E}_{t,x_0,\varepsilon}\|\varepsilon-\varepsilon_\theta(x_t,t)\|^2
07 / 13
تعلم الآلة 101
و11 · د03
التوجيه

التوجيه الخالي من المصنِّف

أسقط التكييف عشوائيًا أثناء التدريب. عند الاستدلال، استقرأ بين التوقعَين المشروط وغير المشروط بمقياس توجيه w.

مقياس التوجيه w
w=1: مشروط اعتيادي. w=7–15: التزام أقوى بالنص، تنوع أقل. w→∞: مشروط قصوى لكن قد يفقد الواقعية.
08 / 13
تعلم الآلة 101
و11 · د03
Stable Diffusion

الانتشار الخفي

64×
تخفيض الأبعاد عبر مشفر VAE
CLIP
تضمينات النص عبر الانتباه المتبادل

الانتشار يعمل في الفضاء الخفي لا فضاء البكسل. مفكك الترميز يُعيد الصورة. مناسب للأجهزة الاستهلاكية. يُشغِّل Stable Diffusion وDALL-E 2 وImagen.

09 / 13
تعلم الآلة 101
و11 · د03
التدفقات الطبيعية

الاحتمالية الدقيقة

  • ثنائي اتجاه قابل للانعكاس f يُحوِّل الضجيج الغاوسي ↔ البيانات
  • لوغاريتم-احتمالية دقيقة عبر تغيير المتغيرات + يعكوب
  • البنى: RealNVP وGlow وFFJORD (معادلة تفاضلية عصبية)
  • الأفضل لـ: تقدير الكثافة وتوليف الصوت (WaveGlow)
  • القيد: انعكاسية f تُحدِّد القدرة التعبيرية في كل طبقة
10 / 13
تعلم الآلة 101
و11 · د03
التقييم

قياس جودة التوليد

  • FID — مسافة Fréchet بين ميزات Inception للحقيقي والمولَّد؛ أقل = أفضل
  • IS — حدة × تنوع عبر Inception؛ يتجاهل مطابقة التوزيع
  • الدقة / الاسترجاع — الجودة مقابل التنوع نسبةً للمنوال الحقيقي
  • CLIP Score — التوافق الدلالي نص-صورة لنماذج T2I
  • الانتشار الرائد: FID أقل من 2 على ImageNet 256×256
11 / 13
تعلم الآلة 101
النماذج التوليدية

تحقّق ممّا تولّد

أربعة أسئلة عن المشفرات التغايرية وGANs والانتشار — من يتصفّح سريعًا سيختار الخطأ المعقول.

السؤال 1 من 0
النتيجة 0/0

12 / 13
تعلم الآلة 101
النقاط الرئيسية
ملخص

النقاط الرئيسية

  • VAE: ELBO + إعادة المعاملة — مستقر، فضاء خفي سلس، مخرجات ضبابية
  • GAN: لعبة minimax — عينات حادة، تدريب غير مستقر، خطر انهيار الأنماط
  • الانتشار: عكس التبدُّد — جودة وتنوع متقدمان، أخذ عينات أبطأ
  • الانتشار الخفي: يعمل في فضاء VAE → مناسب للأجهزة الاستهلاكية
  • التوجيه الخالي من المصنِّف: توازن الجودة-التنوع يُتحكَّم به وقت الاستدلال
  • التدفقات: ثنائيات انعكاسية → احتمالية دقيقة؛ الأفضل لتقدير الكثافة
الدرس التالي كل الدروس اقرأ المقالة
13 / 13