HyperAIHyperAI

Command Palette

Search for a command to run...

ريب-إم تي إل: تحرير قوة أهمية المهمة على مستوى التمثيل لتعلم المهام المتعددة

Zedong Wang Siyuan Li Dan Xu

الملخص

على الرغم من إمكانات التعلم متعدد المهام في استغلال المعرفة المكملة بين المهام، فإن تقنيات التحسين متعدد المهام (MTO) الحالية ما زالت مركزة على حل النزاعات من خلال استراتيجيات تسوية الخسارة والتعديل في التدرج من منظور المحسّن (optimizer)، ومع ذلك لا تحقق مكاسب مستقرة. في هذا البحث، نعتقد أن مساحة التمثيل المشتركة، حيث تحدث التفاعلات بين المهام بشكل طبيعي، توفر معلومات غنية وفرصًا لعمليات مكملة لمحسّنات موجودة، خاصةً في تعزيز التكامل بين المهام، وهو أمر نادرًا ما يتم استكشافه في MTO. هذه الفكرة تؤدي إلى Rep-MTL، والتي تستفيد من مقياس أهمية المهمة على مستوى التمثيل لقياس التفاعلات بين التحسين الخاص بالمهمة والتعلم الخاص بمساحة التمثيل المشتركة. من خلال توجيه هذه الأهميات عبر عقوبات تعتمد على الإنتروبيا (Entropy-based penalization) والتوافق بين المهام على مستوى العينات (sample-wise cross-task alignment)، يهدف Rep-MTL إلى تقليل التعلم المُسجّل السلبي (negative transfer) من خلال الحفاظ على تدريب المهام بشكل فعال، بدلًا من التركيز فقط على حل النزاعات، مع تعزيز المشاركة في المعلومات المكملة بشكل صريح. تم إجراء تجارب على أربع معايير (benchmarks) متميزة لتعلم متعدد المهام، تغطي سيناريوهات التحول بين المهام (task-shift) والتحول بين المجالات (domain-shift). تظهر النتائج أن Rep-MTL، حتى عند استخدامها مع سياسة توزيع الوزن المتساوي الأساسية، تحقق مكاسب في الأداء متميزة مع كفاءة مواتية. علاوة على مقاييس الأداء القياسية، تُظهر تحليل معامل قانون القوة (Power Law exponent) فعالية Rep-MTL في موازنة التعلم الخاص بالمهمة والمشاركة بين المهام. صفحة المشروع متاحة في HERE.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp
ريب-إم تي إل: تحرير قوة أهمية المهمة على مستوى التمثيل لتعلم المهام المتعددة | مستندات | HyperAI