HyperAIHyperAI
منذ 2 أشهر

متغير الانتباه المُعَدَّل بين الأوضاع لتعقب RGBT

Yun Xiao; Jiacong Zhao; Andong Lu; Chenglong Li; Yin Lin; Bing Yin; Cong Liu
متغير الانتباه المُعَدَّل بين الأوضاع لتعقب RGBT
الملخص

المسارِّات الحالية القائمة على نموذج Transformer في مجال تتبع RGBT تحقق فوائد أداء ملحوظة من خلال الاستفادة من الانتباه الذاتي لاستخراج الخصائص الأحادية النمطية والانتباه المتقاطع لتعزيز التفاعل بين الخصائص متعددة النماذج وحساب الارتباط بين القالب والبحث. ومع ذلك، فإن حسابات الارتباط المستقلة بين البحث والقالب تتجاهل التناسق بين الفروع، مما يمكن أن يؤدي إلى وزن ارتباط غير واضح وغير مناسب. هذا ليس فقط يحد من تمثيل الخصائص داخل النمط، ولكنه أيضًا يؤثر سلبًا على ثبات الانتباه المتقاطع في التفاعل بين الخصائص متعددة النماذج وحساب الارتباط بين البحث والقالب. لمعالجة هذه المشكلات، نقترح نهجًا جديدًا يُسمى Transformer الانتباه المعدل عبر النماذج (Cross-modulated Attention Transformer - CAFormer)، والذي يقوم بحساب الارتباط الذاتي داخل النمط، التفاعل بين الخصائص عبر النماذج، وحساب الارتباط بين البحث والقالب في نموذج انتباه موحد، وذلك لغرض تتبع RGBT. بشكل خاص، نقوم أولًا بإنشاء خرائط ارتباط مستقلة لكل نموذج وإدخالها في الوحدة المصممة للتحسين المعدل بالارتباط، حيث يتم تعديل أوزان الارتباط غير الدقيقة عن طريق البحث عن التوافق بين النماذج. هذا النوع من التصميم يوحّد مخططات الانتباه الذاتي والانتباه المتقاطع، مما لا仅 فقط يخفف من حساب أوزان الارتباه غير الدقيقة في الانتباه الذاتي ولكن أيضًا يتخلص من الحساب الزائد الذي يُدخله مخطط الانتباه المتقاطع الإضافي. بالإضافة إلى ذلك، نقترح استراتيجية إلغاء الرموز التعاونية لتحسين كفاءة الاستدلال والتتبع ودقته بشكل أكبر. تظهر التجارب الواسعة على خمسة مقاييس عامة للتتبع RGBT الأداء المتميز للـ CAFormer المقترح مقابل الأساليب الأكثر تقدمًا.请注意,最后一句中的“不仅”在阿拉伯语中应为“لا仅 فقط”,这是笔误,正确的翻译应该是:بالإضافة إلى ذلك، نقترح استراتيجية إلغاء الرموز التعاونية لتحسين كفاءة الاستدلال والتتبع ودقته بشكل أكبر. تظهر التجارب الواسعة على خمسة مقاييس عامة للتتبع RGBT الأداء المتميز للـ CAFormer المقترح مقابل الأساليب الأكثر تقدمًا.

متغير الانتباه المُعَدَّل بين الأوضاع لتعقب RGBT | أحدث الأوراق البحثية | HyperAI