GRiT: نموذج تحويلي من منطقة إلى نص يعتمد على التوليد لفهم الكائنات

يقدم هذا البحث نموذجًا توليديًا للمنطقة إلى النص يُسمى GRiT (Generative RegIon-to-Text transformer) لفهم الكائنات. يتجلى جوهر GRiT في صياغة فهم الكائنات على شكل أزواج مكونة من <منطقة، نص>، حيث تمثل المنطقة موقع الكائن، بينما يصف النص الكائن. على سبيل المثال، يشير النص في مهمة الكشف عن الكائنات إلى أسماء الفئات، بينما يشير النص في مهمة التسمية الكثيفة إلى جمل وصفية. بشكل خاص، يتكوّن GRiT من معالج بصري لاستخراج ميزات الصورة، ووحدة استخلاص الكائنات المُتميزة لتحديد مواقع الكائنات، ومحول نصي لتوليد وصفات مفتوحة المجموعة للكائنات. وباستخدام نفس البنية المعمارية للنموذج، يمكن لـ GRiT فهم الكائنات ليس فقط عبر أسماء جمعية بسيطة، بل أيضًا عبر جمل وصفية غنية تشمل صفات الكائنات أو أفعالها. من الناحية التجريبية، تم تطبيق GRiT على مهام الكشف عن الكائنات والكتابة الوصفية الكثيفة. وقد حقق GRiT نتيجة قدرة على التصنيف (AP) بلغت 60.4 على مجموعة بيانات COCO 2017 في اختبار test-dev، و15.5 mAP على مجموعة بيانات Visual Genome في مهمة التسمية الكثيفة. يُمكن الاطلاع على الكود عبر الرابط: https://github.com/JialianW/GRiT