ليست جميع الرموز متساوية: تحليل بصري متمحور حول الإنسان من خلال تحويلة تجميع الرموز

لقد حققت نماذج التحويل البصري (Vision Transformers) نجاحات كبيرة في العديد من المهام المتعلقة بالرؤية الحاسوبية. تُولِّد معظم الطرق ما يُسمى بـ "الرموز البصرية" (vision tokens) من خلال تقسيم الصورة إلى شبكة منتظمة وثابتة، ثم اعتبار كل خلية كرمز من الرموز. ومع ذلك، ليست جميع المناطق متساوية الأهمية في المهام التي تركز على الإنسان، مثلاً، يتطلب جسم الإنسان تمثيلاً دقيقاً باستخدام عدد كبير من الرموز، بينما يمكن تمثيل الخلفية باستخدام عدد قليل من الرموز. ولحل هذه المشكلة، نقترح نموذجًا جديدًا للتحويل البصري يُسمى "Transformer تجميع الرموز" (Token Clustering Transformer أو TCFormer)، الذي يُجمِّع الرموز عبر عملية تجميع تدريجية، حيث يمكن دمج الرموز من مواقع مختلفة بأشكال وأحجام مرنة. وتُتيح الرموز في TCFormer التركيز ليس فقط على المناطق المهمة، بل أيضًا تعديل أشكالها لتتناسب مع المفاهيم الدلالية، واعتماد دقة عالية في المناطق التي تحتوي على تفاصيل حرجة، مما يُعد مفيدًا في التقاط المعلومات التفصيلية. تُظهر التجارب الواسعة أن TCFormer يتفوق باستمرار على النماذج المماثلة في مهام بشرية مركزية صعبة مختلفة، وتشمل مجموعات بيانات متنوعة مثل تقدير وضعية الجسم بالكامل على COCO-WholeBody، واسترجاع هياكل الجسم ثلاثية الأبعاد على 3DPW. يمكن الاطلاع على الكود المصدر على الرابط التالي: https://github.com/zengwang430521/TCFormer.git