توليد الصور بشروط النص الهرمي باستخدام خصائص CLIP

قد أظهرت النماذج التباينية مثل CLIP (كليپ) قدرتها على تعلم تمثيلات صلبة للصور تلتقط كل من المعنى والأسلوب. للاستفادة من هذه التمثيلات في توليد الصور، نقترح نموذجًا ذي مرحلتين: نموذج أولي يولد غرز صورة CLIP (كليپ) بناءً على تعليق نصي، ونموذج فك التشفير يولد صورة مشروطة بغرز الصورة. نوضح أن إنتاج التمثيلات الصورية بشكل صريح يحسن تنوع الصور مع خسارة طفيفة في الواقعية الفوتوغرافية ومطابقة التعليق النصي. يمكن أيضًا لنماذج فك التشفير المشروطة بالتمثيلات الصورية أن تنتج تغييرات في الصورة تحافظ على معناها وأسلوبها، بينما تتغير التفاصيل غير الأساسية التي لا توجد في تمثيل الصورة. بالإضافة إلى ذلك، فإن الفضاء المشترك للغرزات في CLIP (كليپ) يمكّن من عمليات تعديل الصور بقيادة اللغة بطريقة ذات مفعول فوري. نستخدم نماذج الانتشار لنموذج فك التشفير ونجري تجارب باستخدام كل من النماذج الذاتية التنظيمية ونماذج الانتشار للنموذج الأولي، حيث نجد أن الأخيرة أكثر كفاءة حاسوبية وتنتج عينات ذات جودة أعلى.