HyperAIHyperAI

Command Palette

Search for a command to run...

التعلم التنازلي التجريبي بايزي مع التدرجات الاصطناعية

Shell Xu Hu Pablo G. Moreno Yang Xiao Xi Shen Guillaume Obozinski Neil D. Lawrence Andreas Damianou

الملخص

نُقدِّم نهجًا للتعلم التلخيصي (meta-learning) يتعلم من عدة مهام في بيئة تحوُّلية (transductive)، وذلك من خلال الاستفادة من مجموعة الاستفسارات غير المُعلَّمة إلى جانب مجموعة الدعم لتكوين نموذج أكثر قوة لكل مهمة. ولتطوير إطارنا، نعيد النظر في الصيغة التجريبية بايز (empirical Bayes) للتعلم متعدد المهام. حيث يتحلل حدّ التقليل السفلي للعُليّة اللوغاريتمية الحدية (evidence lower bound) لنموذج بايز التجريبي إلى مجموع مقاييس التباين الكوشي-ليبلر (KL divergences) المحلية بين التوزيع الاحتمالي التباعي (variational posterior) والتوزيع الاحتمالي الحقيقي (true posterior) على مجموعة الاستفسارات لكل مهمة. نُشتقّ تقنية جديدة للاستدلال التباعي المُعَمَّم (amortized variational inference) التي تربط بين جميع التوزيعات الاحتمالية التباعية من خلال نموذج تلخيصي (meta-model)، يتكون من شبكة تدرج مُصطنع (synthetic gradient network) وشبكة تهيئة (initialization network). يتم استخلاص كل توزيع احتمالي تباعي من خلال تدرج مُصطنع (synthetic gradient descent) لتقريب التوزيع الاحتمالي الحقيقي على مجموعة الاستفسارات، رغم عدم توفرنا على التدرج الحقيقي. وقد أظهرت نتائجنا على معايير Mini-ImageNet وCIFAR-FS في تصنيف الأمثلة القليلة (few-shot classification) أداءً أفضل من الطرق السابقة المُتميزة. بالإضافة إلى ذلك، أجرينا تجربتين لتعلم الصفر (zero-shot learning) لاستكشاف إمكانات التدرج المُصطنع بشكل أعمق.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp