HyperAI

VIRES: إعادة رسم فيديو ثنائي التوجيه للرسم والنص

1. مقدمة البرنامج التعليمي

يبني

VIRES هي طريقة إعادة رسم مثيل فيديو تجمع بين الرسومات والتوجيه النصي، وقد تم اقتراحها بشكل مشترك في عام 2025 من قبل مختبر ذكاء الكاميرا بجامعة بكين (فريق شي بايكسين) بالاشتراك مع OpenBayes Bayesian Computing وفريق الأستاذ المشارك لي سي من مختبر التعرف على الأنماط في كلية الذكاء الاصطناعي بجامعة بكين للبريد والاتصالات. وهي تدعم مجموعة متنوعة من عمليات التحرير مثل إعادة الرسم والاستبدال والتوليد وإزالة مواضيع الفيديو. تستخدم هذه الطريقة المعرفة المسبقة بنموذج الفيديو الناتج عن النص لضمان الاتساق الزمني. كما تقترح أيضًا شبكة تحكم متسلسلة مع آلية تحجيم تكيفية موحدة، والتي يمكنها استخراج التخطيطات الهيكلية بشكل فعال والتقاط تفاصيل الرسم عالية التباين بشكل تكيفي. علاوة على ذلك، قدم فريق البحث آلية انتباه الرسم في العمود الفقري لمحول الانتشار (DiT) لتفسير وحقن دلالات الرسم الدقيقة. تظهر النتائج التجريبية أن VIRES يتفوق على نماذج SOTA الحالية في العديد من الجوانب مثل جودة الفيديو والتناسق الزمني والمحاذاة الشرطية وتقييمات المستخدم.

ويستند البحث ذو الصلة علىVIRES: إعادة رسم مثيلات الفيديو عبر إنشاء رسم تخطيطي ونص موجه"، تم اختياره لـ CVPR 2025.

يستخدم هذا البرنامج التعليمي الموارد لبطاقة واحدة A6000.

2. أمثلة المشاريع

3. خطوات التشغيل

1. بعد بدء تشغيل الحاوية، انقر فوق عنوان API للدخول إلى واجهة الويب 

2. بمجرد دخولك إلى صفحة الويب، يمكنك استخدام النموذج

إذا تم عرض "بوابة سيئة"، فهذا يعني أن النموذج قيد التهيئة. نظرًا لأن النموذج كبير الحجم، يرجى الانتظار لمدة 2-3 دقائق وتحديث الصفحة.

كيفية الاستخدام 

وصف المعلمة:

  • مقياس التوجيه CFG: قوة التوجيه غير المشروطة.
  • عدد خطوات أخذ العينات: عدد خطوات أخذ العينات.
  • إطار البداية: تحرير إطار البداية.

معلومات الاستشهاد

@article{vires,
      title={VIRES: Video Instance Repainting via Sketch and Text Guided Generation},
      author={Weng, Shuchen and Zheng, Haojie and Zhang, Peixuan and Hong, Yuchen and Jiang, Han and Li, Si and Shi, Boxin},
      booktitle={Proceedings of the Computer Vision and Pattern Recognition Conference},
      pages={28416--28425},
      year={2025}
}