كشف فعّال للتفاعلات البشرية-الكائنية على مرحلتين باستخدام محول أحادي-زوجي جديد

أدت التطورات الأخيرة في نماذج الترانسفورمر للبيانات البصرية إلى تحسينات كبيرة في مهام التعرف والكشف. وبشكل خاص، أدى استخدام الاستفسارات القابلة للتعلم بدلًا من اقتراحات المناطق إلى ظهور فئة جديدة من نماذج الكشف ذات المرحلة الواحدة، بقيادة نموذج الترانسفورمر للكشف (DETR). وقد سادت الابتكارات المستمدة من هذا النهج الواحد-المرحلة في كشف التفاعل بين الإنسان والكائن (HOI). ومع ذلك، يمكن تفسير نجاح هذه النماذج الواحدة-المرحلة للكشف عن التفاعل البشري-الكائن إلى حد كبير بقوة التمثيل التي توفرها نماذج الترانسفورمر. وخلال دراستنا، اكتشفنا أنه عند تزويدها بنفس نموذج الترانسفورمر، يمكن للنسخة ذات المرحلتين أن تكون أكثر كفاءة من حيث الأداء واحتياجات الذاكرة، مع تقليل زمن التدريب إلى جزء ضئيل. في هذا العمل، نقترح نموذج الترانسفورمر الأحادي-الزوجي، وهو نموذج كشف ثنائي المراحل يستفيد من تمثيلات أحادية وزوجية للكشف عن التفاعلات البشرية-الكائنية. ولاحظنا أن الأجزاء الأحادية والزوجية في شبكتنا الترانسفورمرية تتحددان وظيفيًا، حيث تُعزز الجزء الأحادي بشكل مُفضّل درجات الأمثلة الإيجابية، بينما يُقلل الجزء الزوجي من درجات الأمثلة السلبية. وقد قُمنا بتقييم منهجنا على مجموعتي بيانات HICO-DET وV-COCO، وأظهر أداءً متفوقًا بشكل ملحوظ على الطرق الرائدة حاليًا. وفي مرحلة الاستنتاج، يحقق نموذجنا باستخدام ResNet50 أداءً قريبًا من الزمن الحقيقي على وحدة معالجة واحدة (GPU).