HyperAIHyperAI

Command Palette

Search for a command to run...

COOT: تحويلة هيراركية تعاونية لتعلم التمثيل المرئي-النصي

Simon Ging Mohammadreza Zolfaghari Hamed Pirsiavash Thomas Brox

الملخص

تتضمن العديد من مهام الفيديو والنص في العالم الحقيقي مستويات مختلفة من الدقة، مثل الإطارات والكلمات، أو المقاطع والجمل، أو الفيديوهات والفقرات، وكل منها يحمل دلالات مختلفة. في هذه الورقة البحثية، نقترح نموذج "Transformer التكافلي الهرمي" (COOT) للاستفادة من هذه المعلومات الهرمية ونمذجة التفاعلات بين المستويات المختلفة من الدقة والوسائط المختلفة. يتكوّن هذا النهج من ثلاث مكونات رئيسية: طبقة تجميع الميزات المستندة إلى الانتباه، التي تستفيد من السياق الزمني المحلي (الداخلي للمستوى، مثال: ضمن مقطع)، ومحول سياقي لتعلم التفاعلات بين الدلالات المنخفضة المستوى والمستوى العالي (التفاعل بين المستويات، مثال: مقطع-فيديو، جملة-فقرة)، بالإضافة إلى خسارة ترابط دوري بين الوسائط لربط الفيديو بالنص. ويُظهر النموذج الناتج أداءً متميزًا مقارنة بأفضل النماذج الحالية على عدة معايير، مع عدد قليل جدًا من المعاملات. وجميع الشيفرات متوفرة مفتوحة المصدر على الرابط التالي: https://github.com/gingsi/coot-videotext


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp