التركيب القليل العيّاني من الفيديو إلى الفيديو

تهدف تقنية تحويل الفيديو إلى فيديو (vid2vid) إلى تحويل مقطع فيديو دلالي إدخالي، مثل مقاطع فيديو لوضعيات البشر أو أقنعة التجزئة، إلى مقطع فيديو ذو صور فوتوريالية. رغم التقدم الملحوظ الذي حققته التقنيات الرائدة في مجال vid2vid، فإن الأساليب الحالية تشترك في قيودين رئيسيين. الأول هو أنها تعتمد بشكل كبير على البيانات؛ حيث يتطلب التدريب العديد من الصور للشخص المستهدف أو المشهد. الثاني هو أن النموذج المتعلم يمتلك قدرة تعميم محدودة؛ فنموذج تحويل الوضعية إلى البشر يمكنه فقط توليد وضعيات الشخص الوحيد الموجود في مجموعة التدريب، ولا يعمم إلى أشخاص آخرين غير موجودين فيها. لحل هذه القيود، نقترح إطار عمل vid2vid بناءً على عدد قليل من الأمثلة (few-shot)، والذي يتعلم توليد مقاطع الفيديو لأهداف أو مشاهد لم يتم رؤيتها سابقًا من خلال الاستفادة من عدد قليل من الصور المثال للهدف عند وقت الاختبار. يتمكن نموذجنا من تحقيق هذه القدرة على التعميم بناءً على أمثلة قليلة عبر وحدة توليد أوزان الشبكة الجديدة التي تستفيد من آلية الانتباه (attention mechanism). نجري اختبارات تجريبية واسعة النطاق مع مقارنات مع أسس قوية باستخدام عدة مجموعات بيانات فيديو كبيرة تتضمن مقاطع فيديو للرقص البشري وفيديوهات الرأس المتحدث وفيديوهات المشاهد الحضرية. تؤكد النتائج التجريبية فعالية الإطار المقترح في حل القيودين الرئيسيين للأساليب الحالية في مجال vid2vid.