HyperAIHyperAI

Command Palette

Search for a command to run...

إلى التعبيرات الشاملة والتفكير في التجزئة الصوتية البصرية التي تُشير إليها

Kaining Ying Henghui Ding Guanquan Jie Yu-Gang Jiang

الملخص

شهدت مسألة التجزئة المرجعية الصوتية-البصرية (RAVS) تقدماً ملحوظاً في الآونة الأخيرة، ومع ذلك تبقى التحديات قائمة في دمج المعلومات متعددة الوسائط وفهم وتحليل محتوى الصوت والصورة بشكل عميق. ولتمديد حدود مجال RAVS وتمكين الأبحاث المستقبلية في هذا المجال، نقترح مجموعة بيانات جديدة تُسمى التجزئة الصوتية-البصرية المرجعية الشاملة (OmniAVS)، والتي تحتوي على 2,098 مقطع فيديو و59,458 تعبيراً مرجعياً متعدد الوسائط. تتميز OmniAVS بثلاثة ابتكارات رئيسية: (1) تضمين ثمانية أنواع من التعبيرات متعددة الوسائط التي تجمع بشكل مرن بين النص، والكلام، والصوت، والإشارات البصرية؛ (2) التركيز على فهم محتوى الصوت لا يقتصر على اكتشاف وجوده فقط؛ (3) دمج التفكير المعقد والمعرفة بالعالم في التعبيرات. بالإضافة إلى ذلك، نقدم منصة المساعد المُوجَّه متعدد الوسائط للتجزئة (OISA)، بهدف التصدي للتحديات المتعلقة بالاستدلال متعدد الوسائط والفهم الدقيق لمحتوى الصوت والصورة في مجموعة بيانات OmniAVS. تعتمد OISA على النماذج اللغوية والبصرية المتعددة (MLLM) لفهم الإشارات المعقدة وإجراء تجزئة قائمة على الاستدلال. وقد أظهرت التجارب الواسعة أن OISA تتفوق على الطرق الحالية على مجموعة بيانات OmniAVS، وتُحقّق نتائج تنافسية في مهام أخرى ذات صلة.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp