التعلم التنازلي التجريبي بايزي مع التدرجات الاصطناعية

نُقدِّم نهجًا للتعلم التلخيصي (meta-learning) يتعلم من عدة مهام في بيئة تحوُّلية (transductive)، وذلك من خلال الاستفادة من مجموعة الاستفسارات غير المُعلَّمة إلى جانب مجموعة الدعم لتكوين نموذج أكثر قوة لكل مهمة. ولتطوير إطارنا، نعيد النظر في الصيغة التجريبية بايز (empirical Bayes) للتعلم متعدد المهام. حيث يتحلل حدّ التقليل السفلي للعُليّة اللوغاريتمية الحدية (evidence lower bound) لنموذج بايز التجريبي إلى مجموع مقاييس التباين الكوشي-ليبلر (KL divergences) المحلية بين التوزيع الاحتمالي التباعي (variational posterior) والتوزيع الاحتمالي الحقيقي (true posterior) على مجموعة الاستفسارات لكل مهمة. نُشتقّ تقنية جديدة للاستدلال التباعي المُعَمَّم (amortized variational inference) التي تربط بين جميع التوزيعات الاحتمالية التباعية من خلال نموذج تلخيصي (meta-model)، يتكون من شبكة تدرج مُصطنع (synthetic gradient network) وشبكة تهيئة (initialization network). يتم استخلاص كل توزيع احتمالي تباعي من خلال تدرج مُصطنع (synthetic gradient descent) لتقريب التوزيع الاحتمالي الحقيقي على مجموعة الاستفسارات، رغم عدم توفرنا على التدرج الحقيقي. وقد أظهرت نتائجنا على معايير Mini-ImageNet وCIFAR-FS في تصنيف الأمثلة القليلة (few-shot classification) أداءً أفضل من الطرق السابقة المُتميزة. بالإضافة إلى ذلك، أجرينا تجربتين لتعلم الصفر (zero-shot learning) لاستكشاف إمكانات التدرج المُصطنع بشكل أعمق.