Command Palette
Search for a command to run...
مُبْدَأٌ بَسِيطٌ لِلإجابةِ العُقلَانيَّةِ المُتَعَلِّقَةِ بِالكَلِمَاتِ المُتَوَسِّطَةِ في الصور
مُبْدَأٌ بَسِيطٌ لِلإجابةِ العُقلَانيَّةِ المُتَعَلِّقَةِ بِالكَلِمَاتِ المُتَوَسِّطَةِ في الصور
Alexandros Xenos Themos Stafylakis Ioannis Patras Georgios Tzimiropoulos
الملخص
تتناول هذه الورقة البحثية مشكلة الإجابة على الأسئلة البصرية القائمة على المعرفة (KB-VQA). وقد ركّزت الدراسات الحديثة على أهمية دمج المعرفة الصريحة (من خلال قواعد بيانات خارجية) والمعرفة الضمنية (من خلال النماذج اللغوية الكبيرة LLMs) للإجابة بكفاءة على الأسئلة التي تتطلب معرفة خارجية. إحدى القيود الشائعة لهذه النماذج هي تعقيد خطوط المعالجة (pipelines) التي تُستخدم، والتي تعتمد غالبًا بشكل كبير على الوصول إلى واجهة برمجة التطبيقات (API) الخاصة بـ GPT-3. يكمن إسهامنا الرئيسي في هذه الورقة في اقتراح نموذج بسيط للغاية وقابل لإعادة التكرار بسهولة، يعتمد في جوهره على التعلّم الفعّال داخل السياق (in-context learning) من خلال توجيه نموذج LLaMA (النسخة 1 و2) باستخدام عناوين وصفية مُوجّهة نحو السؤال كمصدر للمعلومات السياقية. على عكس النماذج الحديثة، فإن طريقة عملنا لا تتطلب تدريبًا، ولا تحتاج إلى الوصول إلى قواعد بيانات خارجية أو واجهات برمجة تطبيقات، ومع ذلك تحقق دقة متقدمة جدًا على مجموعتي بيانات OK-VQA وA-OK-VQA. وأخيرًا، قمنا بإجراء دراسات تحليلية (ablation studies) متعددة لفهم الجوانب المهمة في طريقة العمل الخاصة بنا. يمكن الوصول إلى الكود الخاص بنا بشكل عام عبر الرابط التالي: https://github.com/alexandrosXe/ASimple-Baseline-For-Knowledge-Based-VQA