HyperAIHyperAI
منذ 16 أيام

Meta-GMVAE: خليط من VAE الطبيعي للتعلم التشاركي غير المراقب

{Sung Ju Hwang, Seanie Lee, Dongchan Min, Dong Bok Lee}
Meta-GMVAE: خليط من VAE الطبيعي للتعلم التشاركي غير المراقب
الملخص

يهدف التعلم غير المراقب إلى استخلاص تمثيلات ذات معنى من البيانات غير المُعلَّمة، بحيث تُمكّن من التقاط البنية الجوهرية للبيانات، ويمكن نقلها إلى مهام لاحقة. يشترك التعلم الوظيفي (Meta-learning) في الروح نفسها مع التعلم غير المراقب، حيث يسعى كلا النموذجين إلى تعلُّم إجراءات تعلُّم أكثر فعالية وكفاءة من التعلُّم من الصفر. ولكن الفرق الجوهري بينهما هو أن معظم مناهج التعلم الوظيفي تكون مراقبة، بفرض توفر وصول كامل إلى التسميات (الLabels). ومع ذلك، فإن جمع مجموعة بيانات مُعلَّمة لتدريب التعلم الوظيفي ليس فقط مكلفًا، نظرًا للاحتياجات البشرية في التسمية، بل يُحد من تطبيقاته إلى توزيعات مهام مُحددة مسبقًا. في هذه الورقة، نقترح نموذجًا منهجيًا للتعلم الوظيفي غير المراقب، يُسمَّى Meta-GMVAE، مبنيًا على مُشفِّر التباين (Variational Autoencoder - VAE) واستنتاج التباين على مستوى المجموعة (set-level variational inference). كما نقدِّم افتراضًا بوجود مزيج من التوزيعات الطبيعية (GMM) كمُقدِّم أولي (Prior)، بافتراض أن كل نمط (Modality) يمثل مفهوم فئة معينة في تجربة (Episode) يتم اختيارها عشوائيًا، ونُحسِّن هذا المُقدِّم باستخدام خوارزمية التوقع-التحديث (Expectation-Maximization - EM). بعد ذلك، يمكن استخدام النموذج المُدرَّب في مهام تصنيف قليلة النماذج (Few-shot Classification) لاحقة، حيث نحصل على معلمات مخصصة لل任務 من خلال تطبيق خوارزمية EM شبه المراقبة على التمثيلات المخفية لمجموعتي الدعم (Support) والسؤال (Query)، ونُقدِّر تسميات مجموعات السؤال من خلال حساب الاحتمالات المجمعة (Aggregated Posteriors). وقد تم التحقق من نموذجنا على مجموعتي بيانات Omniglot وMini-ImageNet من خلال تقييم أدائه في مهام تصنيف قليلة النماذج اللاحقة. وأظهرت النتائج تحسنًا ملحوظًا في الأداء مقارنةً بالأساليب الحالية للتعلم الوظيفي غير المراقب، بل تفوق حتى على النموذج المراقب MAML في بعض التهيئة.

Meta-GMVAE: خليط من VAE الطبيعي للتعلم التشاركي غير المراقب | أحدث الأوراق البحثية | HyperAI