HyperAIHyperAI
منذ 7 أيام

التكيف العام للنطاق من خلال التوافق الانتباهي المكثف

Didi Zhu, Yincuan Li, Junkun Yuan, Zexi Li, Kun Kuang, Chao Wu
التكيف العام للنطاق من خلال التوافق الانتباهي المكثف
الملخص

يهدف التكييف العام للنطاق (UniDA) إلى نقل المعرفة من النطاق المصدري إلى النطاق الهدف دون أي معرفة مسبقة بقائمة التصنيفات. يكمن التحدي في كيفية تحديد ما إذا كانت عينات الهدف تنتمي إلى فئات مشتركة. تعتمد الطرق الشائعة على ميزات العينات لاتخاذ القرار، مما يُبرز المعلومات العالمية بشكل مفرط ويتجاهل الكائنات المحلية الأكثر أهمية في الصورة، ما يؤدي إلى دقة محدودة. لمعالجة هذه المشكلة، نقترح إطارًا جديدًا يُسمى "مطابقة الانتباه العام" (UniAM)، باستخدام آلية الانتباه الذاتي في نماذج التحويل البصري (Vision Transformer) لالتقاط المعلومات الحيوية المتعلقة بالكائنات الأساسية. ويُقدّم هذا الإطار منهجية جديدة تُسمى "مطابقة الانتباه المُكثّفة" (CAM)، والتي تستكشف المعلومات الأساسية من خلال تمثيل مكثّف للانتباه. علاوةً على ذلك، تدمج CAM قياسًا يعتمد على الباقي (residual-based measurement) لتحديد درجة مشتركة العينات. وباستخدام هذا القياس، يحقق UniAM تجانسًا مميزًا للسمات المشتركة على مستوى النطاقات والتصنيفات (CFA)، وفصلًا فعالًا للتصنيفات المستهدفة (TCS). ومن الملاحظ أن UniAM هو أول منهجية تستخدم الانتباه في نماذج التحويل البصري مباشرةً لأداء مهام التصنيف. وتُظهر التجارب الواسعة أن UniAM يتفوّق على أحدث الطرق المتطورة في مجموعة متنوعة من مجموعات البيانات القياسية.

التكيف العام للنطاق من خلال التوافق الانتباهي المكثف | أحدث الأوراق البحثية | HyperAI