InfiMM-HD：高解像度マルチモーダル理解における飛躍的進展

近年、マルチモーダル大規模言語モデル（MLLM）は顕著な進展を遂げてきた。しかし、高解像度画像内の複雑な詳細を正確に認識・理解するという課題は依然として残っている。強力なMLLMの開発にとって不可欠な分野であるにもかかわらず、この分野はまだ十分に研究が進んでいない。本研究では、この課題に対応するため、異なる解像度の画像を低計算コストで処理できる新規アーキテクチャ「InfiMM-HD」を提案する。この革新により、MLLMの高解像度対応能力を拡張することが可能となる。InfiMM-HDはクロスアテンションモジュールと視覚ウィンドウ（visual windows）を導入することで、計算コストの削減を実現している。さらに、四段階のトレーニングパイプラインと組み合わせることで、効率的かつ低コストに優れた視覚認識性能を達成している。実証実験により、InfiMM-HDの堅牢性と有効性が確認され、関連分野における新たな研究の道を開くものとなった。コードおよびモデルは、https://huggingface.co/Infi-MM/infimm-hd にて公開されている。