HyperAIHyperAI
منذ 11 أيام

التعلم القليل العينات المُقيّد للتصنيف التدرجي

Michael Hersche, Geethan Karunaratne, Giovanni Cherubini, Luca Benini, Abu Sebastian, Abbas Rahimi
التعلم القليل العينات المُقيّد للتصنيف التدرجي
الملخص

التعلم المستمر لفئات جديدة من بيانات جديدة دون نسيان المعرفة السابقة بالفئات القديمة يُعد مشكلة بحثية بالغة الصعوبة. علاوةً على ذلك، من الضروري أن يتم هذا التعلم ضمن قيود معينة على الذاكرة والحساب، مثل: (أ) أن تكون العينات التدريبية محدودة إلى عدد قليل جدًا لكل فئة، (ب) أن يظل التكلفة الحسابية لتعلم فئة جديدة ثابتة، و(ج) أن ينمو حجم الذاكرة المستخدمة من قبل النموذج على الأكثر بشكل خطي بالنسبة لعدد الفئات الملاحظة. لاستيفاء هذه القيود، نقترح نموذج C-FSCIL، الذي يتكوّن معماريًا من مستخرج ميزات مُعدّل مسبقًا باستخدام التعلم التأملي (meta-learned)، وطبقة اتصال كاملة ذات حجم ثابت قابلة للتدريب، وذاكرة قابلة لإعادة الكتابة وتنمو ديناميكيًا، تُخزّن عددًا من المتجهات يساوي عدد الفئات التي تم التعرّف عليها. يقدّم C-FSCIL ثلاث طرق لتحديث النموذج، توفر توازنًا بين الدقة وتكلفة الحساب والذاكرة عند تعلّم فئات جديدة. يستفيد C-FSCIL من التضمين ذات الأبعاد العالية (hyperdimensional embedding)، مما يسمح بتمثيل عدد كبير جدًا من الفئات أكثر من عدد الأبعاد الثابتة في الفضاء المتجهي، مع تقليل التداخل إلى الحد الأدنى. كما تم تحسين جودة تمثيلات متجهات الفئات من خلال محاذاة هذه المتجهات تقريبًا بشكل متعامد باستخدام دوال خسارة جديدة. أظهرت التجارب على مجموعات بيانات CIFAR100 وminiImageNet وOmniglot أن C-FSCIL يتفوّق على النماذج الأساسية من حيث الدقة والضغط (compression) بشكل ملحوظ. كما تمكّن النموذج من التوسع إلى أكبر حجم للمشكلة تم اختباره حتى الآن في هذا السياق القائم على عدد قليل من الأمثلة (few-shot)، حيث تعلّم 423 فئة جديدة فوق 1200 فئة أساسية مع انخفاض في الدقة أقل من 1.6٪. يمكن الوصول إلى الكود الخاص بنا عبر الرابط: https://github.com/IBM/constrained-FSCIL.

التعلم القليل العينات المُقيّد للتصنيف التدرجي | أحدث الأوراق البحثية | HyperAI