HyperAIHyperAI

Command Palette

Search for a command to run...

حول الذكريات الواقعة الصغيرة في التعلم المستمر

Arslan Chaudhry; Marcus Rohrbach; Mohamed Elhoseiny; Thalaiyasingam Ajanthan; Puneet K. Dokania; Philip H. S. Torr; Marc'Aurelio Ranzato

الملخص

في التعلم المستمر (CL)، يتعلم العميل من سلسلة مهام مستفيدةً من الخبرات السابقة لنقل المعرفة إلى المهام المستقبلية. يعتبر هذا الإطار مثاليًا لتقليل كمية الرقابة في الخوارزميات التعليمية الحالية. ولكن، لتحقيق نقل المعرفة بنجاح، يجب على العميل تذكر كيفية أداء المهام السابقة. أحد الطرق لمنح العميل القدرة على أداء المهام التي شُوهدت سابقًا هو تخزين ذاكرة صغيرة، تُسمى الذاكرة الحلقة (episodic memory)، تحتفظ ببعض الأمثلة من المهام السابقة، ثم إعادة تشغيل هذه الأمثلة أثناء التدريب على المهام المستقبلية. في هذا البحث، نقوم بتحليل فعالية ذاكرة حلقة صغيرة جدًا في إعداد التعلم المستمر حيث يتم رؤية كل مثال تدريبي مرة واحدة فقط. بشكل مفاجئ، عبر أربع مقاييس مختلفة للتعلم الإشرافي تم تكييفها للتعلم المستمر، أظهرت طريقة أساسية بسيطة جدًا، تقوم بالتدريب المشترك على أمثلة من المهمة الحالية وأمثلة مخزنة في الذاكرة الحلقة، تفوقًا كبيرًا على النهج المصممة خصيصًا للتعلم المستمر مع وجود أو عدم وجود ذاكرة حلقة. بشكل مثير للاهتمام، وجدنا أن التدريب المتكرر حتى على ذكريات صغيرة جدًا للمهام السابقة لا يضر بالعمومية (generalization)، بل على العكس من ذلك، يحسنها، بمكاسب تتراوح بين 7٪ و17٪ عند مليء الذاكرة بمثال واحد لكل فئة.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp