منذ شهر واحد
تغلب على النسيان الكارثي في الشبكات العصبية
James Kirkpatrick; Razvan Pascanu; Neil Rabinowitz; Joel Veness; Guillaume Desjardins; Andrei A. Rusu; Kieran Milan; John Quan; Tiago Ramalho; Agnieszka Grabska-Barwinska; Demis Hassabis; Claudia Clopath; Dharshan Kumaran; Raia Hadsell
الملخص
القدرة على تعلم المهام بطريقة متسلسلة تعد ضرورية لتطوير الذكاء الاصطناعي. بشكل عام، الشبكات العصبية ليست قادرة على ذلك، وقد كان يُعتقد على نطاق واسع أن النسيان الكارثي هو خاصية لا مفر منها للنماذج الاتصالية. نوضح في هذا البحث أنه من الممكن التغلب على هذه الحدود وتدريب شبكات قادرة على الحفاظ على الخبرة في المهام التي لم يتم التعامل معها لفترات طويلة. نهجنا يتضمن تذكر المهام القديمة عن طريق إبطاء التعلم بشكل انتقائي على الأوزان المهمة لتلك المهام. نثبت أن نهجنا قابل للتوسع وفعال من خلال حل مجموعة من مهام التصنيف المستندة إلى مجموعة بيانات الأرقام المكتوبة بخط اليد MNIST (MNIST) وبتعلم عدة ألعاب من سلسلة Atari 2600 (Atari 2600) بشكل متسلسل.