الانتباه الصريح المُعزز بالدمج لمهام الإدراك البصري والحراري (RGB-Thermal)

في الآونة الأخيرة، أظهرت تقنيات الإدراك القائمة على الصور الملونة والحرارية (RGB-Thermal) تقدمًا ملحوظًا. توفر المعلومات الحرارية أدلة مفيدة عندما تعاني الكاميرات البصرية من ظروف إضاءة سيئة مثل الإضاءة المنخفضة والضباب. ومع ذلك، فإن كيفية دمج الصور الملونة (RGB) والبيانات الحرارية بشكل فعال لا تزال تمثل تحديًا مفتوحًا. تشمل الدراسات السابقة استراتيجيات دمج بسيطة مثل دمج البيانات في مرحلة الإدخال، أو ربط خصائص متعددة الأوضاع داخل النماذج، أو تطبيق انتباه لكل نوع من البيانات. هذه الاستراتيجيات بسيطة ولكنها غير كافية. في هذا البحث، نقترح طريقة دمج جديدة تسمى الدمج المعزز بالانتباه الصريح (EAEF) والتي تستفيد بشكل كامل من كل نوع من البيانات. بوجه خاص، نأخذ في الاعتبار الحالات التالية: i) بيانات RGB وبيانات حرارية، ii) فقط أحد النوعين من البيانات، وiii) عدم وجود أي منهما لتوليد الخصائص المميزة. يستخدم EAEF فرعًا واحدًا لتعزيز استخراج الخصائص للحالات i) وiii)، وفرعًا آخر لمعالجة التمثيلات غير الكافية للحالة ii). يتم دمج مخرجات الفرعين لتكوين خصائص مكملة. نتيجة لذلك، أثبتت الطريقة المقترحة للدمج تفوقها على أفضل التقنيات الحالية بنسبة 1.6٪ في mIoU للتقسيم الدلالي، و3.1٪ في MAE لاكتشاف الأجسام البارزة، و2.3٪ في mAP لاكتشاف الأجسام، و8.1٪ في MAE لعد الجموع. يمكن الوصول إلى الرمز البرمجي عبر الرابط: https://github.com/FreeformRobotics/EAEFNet.