نماذج التشتت الشبكي لإنشاء الفيديو من النص

أحرزت النماذج التبادلية تقدماً كبيراً في توليد الصور من النص، إلا أن توليد الفيديوهات من النص يُعد مهمة أكثر تعقيداً مقارنة بتوليد الصور، نظراً لحجم البيانات الكبير المطلوب وتكاليف الحوسبة العالية. تعتمد معظم الطرق الحالية لتوليد الفيديوهات إما على بنية U-Net ثلاثية الأبعاد التي تأخذ بعين الاعتبار البُعد الزمني، أو على التوليد التسلسلي (autoregressive). وتعاني هذه الطرق من الحاجة إلى مجموعات بيانات ضخمة، كما أنها محدودة من حيث تكاليف الحوسبة مقارنة بتوليد الصور من النص. وللتغلب على هذه التحديات، نقترح طريقة جديدة بسيطة ولكنها فعّالة تُعرف باسم "الانتشار الشبكي" (grid diffusion) لتوليد الفيديوهات من النص، دون اعتماد البُعد الزمني في البنية، بالإضافة إلى استخدام مجموعة بيانات كبيرة مزدوجة النص والفيديو. وباستخدام تمثيل الفيديو كصورة شبكية، يمكننا توليد فيديو عالي الجودة باستخدام كمية ثابتة من ذاكرة وحدة معالجة الرسومات (GPU) بغض النظر عن عدد الإطارات. علاوة على ذلك، وبما أن طريقة التمثيل تقلل أبعاد الفيديو إلى أبعاد الصورة، فإن العديد من الطرق القائمة على الصور يمكن تطبيقها على الفيديوهات، مثل التلاعب بالفيديو الموجه بالنص استناداً إلى التلاعب بالصور. وقد أظهرت النتائج الكمية والكيفية أن الطريقة المقترحة تتفوق على الطرق الحالية، مما يدل على ملاءمتها العالية للتطبيقات الواقعية لتوليد الفيديوهات.