Command Palette
Search for a command to run...
Auto-Lambda: فصل العلاقات الديناميكية بين المهام
Auto-Lambda: فصل العلاقات الديناميكية بين المهام
Shikun Liu Stephen James Andrew J. Davison Edward Johns
الملخص
فهم البنية الخاصة بمجموعة من المهام المرتبطة ببعضها يمكّن من التعلم المتعدد المهام (Multi-task Learning) من تحسين قدرة التعميم لأحد هذه المهام أو جميعها. ومع ذلك، يُعدّ عادةً يتطلب تدريب كل زوج من المهام معًا لالتقاط العلاقات بينها، وذلك بتكلفة حسابية هائلة. في هذا العمل، نتعلم علاقات المهام من خلال إطار عمل تلقائي للوزن يُسمى Auto-Lambda. على عكس الطرق السابقة التي تفترض أن علاقات المهام ثابتة، فإن Auto-Lambda هو إطار عمل تعتمد على التدرج (gradient-based meta-learning) يُستكشف من خلاله علاقات المهام المستمرة والديناميكية عبر تخصيص أوزان خاصة بكل مهمة، ويمكنه تحسين أي اختيار من اختيار مجموعات المهام من خلال صياغة دالة خسارة متعددة (meta-loss)، حيث تؤثر خسارة التحقق تلقائيًا على أوزان المهام خلال عملية التدريب. ونُطبّق الإطار المقترح على مشكلات التعلم المتعدد والتعلم المساعد (auxiliary learning) في مجالات الرؤية الحاسوبية والروبوتات، ونُظهر أن Auto-Lambda يحقق أداءً يُعدّ من أفضل الأداء في الحالة الراهنة، حتى عند مقارنته باستراتيجيات التحسين المصممة خصيصًا لكل مشكلة ونطاق بيانات. وأخيرًا، نلاحظ أن Auto-Lambda قادر على اكتشاف سلوكيات تعلّم مثيرة للاهتمام، مما يُسهم في استنتاجات جديدة حول التعلم المتعدد. يُمكن الاطلاع على الكود عبر الرابط: https://github.com/lorenmt/auto-lambda.