تمثيلات متفاوض عليها لمنع النسيان في تطبيقات التعلم الآلي

النسيان الكارثي يُعد تحديًا كبيرًا في مجال التعلم الآلي، خاصة في الشبكات العصبية. عند تعلّم الشبكة العصبية أداءً جيدًا في مهمة جديدة، غالبًا ما تنسى المعرفة أو الخبرات التي اكتسبتها سابقًا. يحدث هذا الظاهرة لأن الشبكة تقوم بتعديل أوزانها واتصالاتها لتقليل الخسارة في المهمة الجديدة، مما قد يؤدي بشكل غير مقصود إلى حذف أو تشويش التمثيلات التي كانت بالغة الأهمية للمهام السابقة. ونتيجة لذلك، تتحسن أداء الشبكة في المهام السابقة، مما يحد من قدرتها على التعلم والتكيف مع تسلسل من المهام. في هذه الورقة، نقترح طريقة جديدة لمنع النسيان الكارثي في تطبيقات التعلم الآلي، مع التركيز بشكل خاص على الشبكات العصبية. تهدف طريقةنا إلى الحفاظ على المعرفة التي تمتلكها الشبكة عبر مهام متعددة، مع إمكانية تمكينها من تعلّم المعلومات الجديدة بكفاءة. نُظهر فعالية طريقةنا من خلال إجراء تجارب على مجموعة متنوعة من مجموعات البيانات القياسية، بما في ذلك Split MNIST وSplit CIFAR10 وSplit Fashion MNIST وSplit CIFAR100. تُنشأ هذه المجموعات بقسمة البيانات الأصلية إلى مهام منفصلة وغير متداخلة، مما يحاكي سيناريو التعلم المستمر حيث يحتاج النموذج إلى تعلّم مهام متعددة تباعًا دون نسيان المهام السابقة. تتعامل طريقةنا مع مشكلة النسيان الكارثي من خلال دمج تمثيلات متفق عليها في عملية التعلّم، مما يمكّن النموذج من الحفاظ على توازن بين الحفاظ على الخبرات السابقة وتكيفه مع المهام الجديدة. وبتقييم طريقتنا على هذه المجموعات الصعبة، نهدف إلى إبراز إمكاناتها في معالجة النسيان الكارثي وتحسين أداء الشبكات العصبية في السياقات التي تعتمد على التعلم المستمر.