NAPA-VQ: تحسين النماذج الأولية مع الوعي بالجوار باستخدام التكميم المتجهي للتعلم المستمر

النسيان الكارثي؛ وهو فقدان المعرفة القديمة عند اكتساب معرفة جديدة، يعد مشكلة تواجه الشبكات العصبية العميقة في التطبيقات الحقيقية. تعتمد العديد من الحلول السائدة لهذه المشكلة على تخزين النماذج (البيانات التي تم التعامل معها سابقًا)، مما قد لا يكون قابلًا للتنفيذ في التطبيقات ذات القيود الذاكرة أو المتطلبات القانونية. لذلك، فإن التركيز الأخير كان على التعلم التدريجي للتصنيف دون استخدام النماذج (Non-Exemplar based Class Incremental Learning - NECIL)، حيث يتعلم النموذج تدريجيًا عن فئات جديدة دون استخدام أي نماذج سابقة. ومع ذلك، بسبب عدم وجود البيانات القديمة، يعاني طرق NECIL من صعوبة في التمييز بين الفئات القديمة والجديدة، مما يؤدي إلى تداخل تمثيلاتها المميزة. نقترح NAPA-VQ: إطار تعزيز النماذج الأولية الواعي بالجوار مع كمّة المتجهات (Neighborhood Aware Prototype Augmentation with Vector Quantization). نستلهم هذا الإطار من تقنية Neural Gas لتعلم العلاقات الطوبولوجية في المساحة المميزة، وتحديد الفئات المجاورة التي من المرجح أن يتم الخلط بينها. يتم استغلال هذه المعلومات الجغرافية لفرض فصل قوي بين الفئات المجاورة وكذلك لإنشاء نماذج أولية تمثل الفئات القديمة بشكل أفضل يمكن أن تساعد بشكل أكبر في الحصول على حدود قرار تمييزية بين الفئات القديمة والجديدة. أظهرت تجاربنا الشاملة على CIFAR-100 و TinyImageNet و ImageNet-Subset أن NAPA-VQ يتفوق على أفضل طرق NECIL الحالية بمتوسط تحسن بنسبة 5% و 2% و 4% في الدقة وبنسبة 10% و 3% و 9% في النسيان الكارثي على التوالي. يمكن العثور على شفرتنا المصدرية في https://github.com/TamashaM/NAPA-VQ.git.