BAD: التوسع الذاتي الثنائي الاتجاه لتحويل النص إلى حركة

تتفوق النماذج التراجعة الذاتية في نمذجة الاعتمادية التسلسلية من خلال فرض قيود السببية، ومع ذلك فإنها تواجه صعوبة في التقاط الأنماط ثنائية الاتجاه المعقدة بسبب طبيعتها الأحادية الاتجاه. على العكس من ذلك، تستفيد النماذج القائمة على التغطية من السياق ثنائي الاتجاه، مما يسمح بنمذجة أكثر غنى للاعتمادات. ومع ذلك، غالبًا ما تفترض هذه النماذج استقلال العناصر أثناء التنبؤ، مما يقلل من فعالية نمذجة الاعتمادية التسلسلية. بالإضافة إلى ذلك، يمكن أن يؤدي تشويه التسلسلات عبر التغطية أو الاستيعاب إلى إدخال تشوهات غير طبيعية، مما يعقد عملية التعلم. لمعالجة هذه المشكلات، نقترح نموذج الاختلاف الثنائي التراجعي (Bidirectional Autoregressive Diffusion - BAD)، وهو أسلوب جديد يجمع بين مزايا النماذج التراجعة الذاتية والنماذج القائمة على التغطية. يستخدم BAD تقنية تشويه قائمة على التقليب التي تحافظ على هيكل السلسلة الطبيعي بينما تفرض اعتماديات السببية من خلال ترتيب عشوائي، مما يمكنه من التقاط العلاقات التسلسلية وثنائية الاتجاه بكفاءة. تظهر التجارب الشاملة أن BAD يتفوق على النماذج التراجعة الذاتية والنماذج القائمة على التغطية في توليد الحركة من النص، مما يشير إلى استراتيجية جديدة للتدريب المسبق لنمذجة المتتابعات. يمكن الوصول إلى كود BAD عبر الرابط https://github.com/RohollahHS/BAD.