MaskGIT: متغير الصور التوليدي المقنع

شهدت النماذج التحويلية الجينرالية نمواً سريعاً في شعبية داخل مجتمع رؤية الحاسوب في إنشاء صور ذات دقة عالية ودقة وضوح عالية. ومع ذلك، فإن أفضل النماذج التحويلية الجينرالية حتى الآن ما زالت تتعامل مع الصورة بشكل ساذج كسلسلة من الرموز، وتقوم بفك تشفير الصورة تباعاً وفقاً لترتيب المسح الشبكي (أي سطراً بعد سطر). وقد وجدنا أن هذه الاستراتيجية ليست مثلى ولا فعالة. يقترح هذا البحث نموذجاً جديداً لإنشاء الصور باستخدام مفكك التشفير التحويلي ثنائي الاتجاه، والذي نسميه MaskGIT.خلال التدريب، يتعلم MaskGIT التنبؤ بالرموز المقنعة عشوائياً من خلال الاهتمام بالرموز في جميع الاتجاهات. وفي وقت الاستدلال، يبدأ النموذج بإنشاء جميع رموز الصورة بشكل متزامن، ثم يقوم بتحسين الصورة تكرارياً مشروطاً بما تم إنشاؤه سابقاً. تظهر تجاربنا أن MaskGIT يتفوق بشكل كبير على أحدث نموذج تحويلي في مجموعة بيانات ImageNet، ويسرع عملية فك التشفير الذاتي الارتباط بمقدار يصل إلى 64 مرة.بالإضافة إلى ذلك، نوضح أن MaskGIT يمكن توسيعه بسهولة لأداء مهام مختلفة في تعديل الصور، مثل الإكمال الداخلي (inpainting)، والتوسيع الخارجي (extrapolation)، وتعديل الصور (image manipulation).