知識ベース視覚質問応答のためのシンプルなベースライン

本論文は、知識ベース型視覚質問応答（KB-VQA）の問題に焦点を当てている。近年の研究では、外部知識を必要とする質問に効果的に応答するためには、外部データベースを通じた明示的知識と、大規模言語モデル（LLM）を通じた暗黙的知識の両方を統合することが重要であることが強調されている。しかし、こうしたアプローチの一般的な課題は、比較的複雑なパイプライン構成であり、しばしばGPT-3 APIへのアクセスに大きく依存している点にある。本論文の主な貢献は、質問に特化したキャプションをコンテキスト情報として用いて、LLaMA（1および2）を効率的にイン・コンテキスト学習させる手法に基づく、より単純かつ再現性の高いパイプラインの提案である。最近の手法とは異なり、本手法は学習を必要とせず、外部データベースやAPIへのアクセスも不要であるが、OK-VQAおよびA-OK-VQAデータセットにおいて、最先端の精度を達成している。最後に、本手法の重要な側面を理解するために、複数のアブレーションスタディを実施した。本研究のコードは、https://github.com/alexandrosXe/ASimple-Baseline-For-Knowledge-Based-VQA にて公開されている。