أحدثت النماذج التحويلية المُدرَّبة مسبقًا على نطاق واسع نقاطًا محورية في إنشاء النص (مثل GPT-3) وإنشاء الصور من النص (مثل DALL-E وCogView). ومع ذلك، لا تزال تطبيقاتها في إنشاء الفيديو تواجه تحديات كبيرة: فالتكلفة الحاسوبية الهائلة المحتملة تجعل التدريب من الصفر أمرًا غير ممكن من حيث التكلفة؛ كما أن ندرة وقلة الصلة بين مجموعات البيانات النصية-الفيديو تعيق قدرة النموذج على فهم المعاني الحركية المعقدة. في هذا العمل، نقدّم نموذج التحويلية CogVideo ذا 9 مليار معلمة، المدرب عبر انتقال معرفة من نموذج مُدرَّب مسبقًا على إنشاء الصور من النص، وهو CogView2. كما نقترح استراتيجية تدريب هرمية متعددة معدلات الإطارات لتحسين التزامن بين النص والمقاطع الفيديوية. وباعتباره (ربما) أول نموذج مُدرَّب مسبقًا على نطاق واسع لإنشاء الفيديو من النص مفتوح المصدر، يتفوق CogVideo على جميع النماذج المتاحة علنًا بشكل كبير في التقييمات الآلية والبشرية.