ドキュメントヘイストック：長文脈マルチモーダル画像／ドキュメント理解を対象としたビジョンLLMベンチマーク

マルチモーダル大規模言語モデルの普及により、異なるモダリティからの複雑なデータ入力を分析・理解する能力は著しく向上している。しかし、長文ドキュメントの処理については、適切なベンチマークが不足していることから、まだ十分に検討されていない。この課題に対応するため、本研究では、視覚的に複雑な長文ドキュメントに対する視覚言語モデル（VLM）の性能を評価することを目的とした包括的なベンチマーク「Document Haystack」を提案する。Document Haystack は、5～200ページにわたるドキュメントを対象とし、ドキュメント内のさまざまな深さに純テキストまたはマルチモーダル（テキスト＋画像）の「ニードル」を戦略的に挿入することで、VLMの情報検索能力を厳しく試す構成となっている。本ベンチマークは400種類のドキュメントバリエーションと合計8,250問の質問を含み、客観的かつ自動化された評価フレームワークを備えている。本稿では、Document Haystackデータセットの構築方法と特徴を詳述し、主要なVLMの実験結果を提示した上で、この分野における今後の研究課題について議論する。