HyperAIHyperAI
منذ 2 أشهر

SATS: نقل الانتباه الذاتي للتقسيم الدلالي المستمر

Qiu, Yiqiao ; Shen, Yixing ; Sun, Zhuohao ; Zheng, Yanchong ; Chang, Xiaobin ; Zheng, Weishi ; Wang, Ruixuan
SATS: نقل الانتباه الذاتي للتقسيم الدلالي المستمر
الملخص

التعلم المستمر لتقسيم أنواع متزايدة من المناطق في الصور هو قدرة مرغوبة للكثير من الأنظمة الذكية. ومع ذلك، يعاني هذا التقسيم الدلالي المستمر من نفس مشكلة النسيان الكارثي التي تواجه التعلم المستمر للتصنيف. بينما تم تكييف العديد من استراتيجيات نقل المعرفة المصممة أصلاً للتعلم المستمر للتصنيف بشكل جيد إلى التعلم المستمر للتقسيم الدلالي، فإنها تعتبر فقط نقل المعرفة القديمة بناءً على مخرجات طبقة أو أكثر من الشبكات العصبية الكاملة التحويلية العميقة. بخلاف الحلول الموجودة، تقترح هذه الدراسة نقل نوع جديد من المعلومات ذات الصلة بالمعرفة، أي العلاقات بين العناصر (مثل البكسلات أو المناطق المحلية الصغيرة) داخل كل صورة، والتي يمكن أن تلتقط المعرفة داخل الفئة وبين الفئات. يمكن الحصول على معلومات العلاقة بكفاءة من خرائط الانتباه الذاتي في نموذج التقسيم ذو الطراز Transformer. بالنظر إلى أن البكسلات التي تنتمي إلى نفس الفئة في كل صورة غالباً ما تشترك في خصائص بصرية متشابهة، يتم تطبيق تقنية التجميع الخاصة بالفئة لتوفير معلومات علاقة أكثر كفاءة لنقل المعرفة. تدعم التقييمات الواسعة على عدة مقاييس عامة أن الطريقة المقترحة لنقل الانتباه الذاتي يمكنها تخفيف مشكلة النسيان الكارثي بشكل فعال أكبر، وأن تركيبها المرن مع استراتيجية أو أكثر من الاستراتيجيات المتبنَّاة على نطاق واسع يتفوق بشكل كبير على الحلول الرائدة حاليًا.

SATS: نقل الانتباه الذاتي للتقسيم الدلالي المستمر | أحدث الأوراق البحثية | HyperAI