تحسين تتبع الأشياء البصرية من خلال التحفيز البصري

تعلم نموذج تمييز لتمييز الهدف من المحيط المشتت له هو أمر أساسي في تتبع الأشياء البصرية بشكل عام. تعد مسألة التكيف الديناميكي لتمثيل الهدف ضد المشتتات صعبة بسبب قدرات التمييز المحدودة للمسارِّ الجاهزة السائدة. نقدم آلية جديدة للتحفيز البصري لتتبع الأشياء البصرية بشكل عام (PiVOT) لمعالجة هذه المشكلة. تقترح PiVOT شبكة توليد تحفيز بالتعاون مع النموذج الأساسي المدرب مسبقًا CLIP لتوليد وتحسين التحفيزات البصرية تلقائيًا، مما يمكّن من نقل معرفة النموذج الأساسي إلى عملية التتبع. بينما يقدم CLIP معرفة شاملة على مستوى الفئات، فإن المسارِّ الذي يتم تدريبه على بيانات خاصة بالمثال يتفوق في التعرف على حالات الأشياء الفريدة. لذلك، تقوم PiVOT أولاً بجمع تحفيز بصري يبرز مواقع الهدف المحتملة. لنقل معرفة CLIP إلى المسارِّ، تستفيد PiVOT من CLIP لتحسين التحفيز البصري بناءً على التشابه بين الأشياء المرشحة والقوالب المرجعية عبر الأهداف المحتملة. بمجرد تحسين التحفيز البصري، يمكنه أن يبرز بشكل أفضل مواقع الهدف المحتملة، وبالتالي يقلل من المعلومات غير ذات الصلة في التحفيز. بفضل الآلية المقترحة للتحفيز، يمكن للمسارِّ إنشاء خرائط ميزات أكثر وعيًا بالمثال من خلال توجيه التحفيز البصري، مما يؤدي إلى الحد الفعال من المشتتات. لا تنطوي الطريقة المقترحة على استخدام CLIP أثناء التدريب، مما يحافظ على تعقيد التدريب نفسه ويحفظ قدرة النموذج الأساسي المدرب مسبقًا على التعميم. تشير التجارب الواسعة عبر العديد من مقاييس الأداء إلى أن PiVOT باستخدام طريقة التحفيز المقترحة يمكنه كبح الأشياء المشتتة وتعزيز أداء المسارِّ.