Command Palette
Search for a command to run...
إلى فهم التثبيت البصري في نماذج اللغة والصورة
إلى فهم التثبيت البصري في نماذج اللغة والصورة
Georgios Pantazopoulos Eda B. Özyiğit
الملخص
يُشير التثبيت البصري (Visual Grounding) إلى قدرة النموذج على تحديد منطقة ضمن إدخال بصري تتطابق مع وصف نصي. وبذلك، يمكن لنموذج يتمتع بقدرات التثبيت البصري أن يُطبّق في مجموعة واسعة من التطبيقات عبر مجالات مختلفة، بما في ذلك فهم التعبيرات الإشارية، والإجابة على أسئلة تتعلق بتفاصيل دقيقة في الصور أو مقاطع الفيديو، ووصف السياق البصري من خلال الإشارة صراحةً إلى كيانات معينة، فضلاً عن التحكم على المستويين المنخفض والمرتفع في البيئات المحاكاة والواقعية. في هذه الورقة الاستعراضية، نستعرض الأعمال المتميزة في المجالات الرئيسية للبحث المتعلقة بالنماذج الحديثة متعددة الأغراض للرؤية واللغة (VLMs). نبدأ بتسليط الضوء على الأهمية المحورية للتثبيت البصري في النماذج متعددة الوسائط، ثم نوضح المكونات الأساسية للنمط المعاصر لتطوير النماذج المثبتة، ونُجري مراجعة للتطبيقات العملية، بما في ذلك المعايير والمقاييس التقييمية الخاصة بالإنتاج المتعدد الوسائط المُثبت. كما نناقش العلاقات المتعددة الجوانب بين التثبيت البصري، والتفكير المتسلسل متعدد الوسائط (Multimodal Chain-of-Thought)، والاستنتاج في النماذج متعددة الوسائط. وأخيرًا، نحلل التحديات الجوهرية المرتبطة بالتثبيت البصري، ونُقترح اتجاهات واعدة للبحث المستقبلي.