GLIPv2：ローカライゼーションとビジョン・ランゲージ理解の統合

本稿では、物体検出やインスタンスセグメンテーションなどの局所化タスクと、VQAや画像キャプション生成などの視覚言語（VL）理解タスクの両方を対応可能な、グランド化された視覚言語理解モデル「GLIPv2」を提案する。GLIPv2は、以下の3つの事前学習タスクを用いて、局所化事前学習と視覚言語事前学習（VLP）を洗練された形で統合している：検出タスクのVL形式再定式化であるフレーズグランドイング、領域-単語レベルにおける新規な対比学習タスクである領域-単語対比学習、およびマスク言語モデリング。この統合により、従来の多段階VLPプロセスが簡素化されるだけでなく、局所化タスクと理解タスクの間で相互に利点をもたらす効果も得られる。実験結果から、すべてのモデルパラメータを共有する単一のGLIPv2モデルが、さまざまな局所化および理解タスクにおいて準SOTA（state-of-the-art）水準の性能を達成することが示された。さらに、GLIPv2は（1）オープンボリューム物体検出タスクにおいて強力なゼロショットおよび少サンプル適応性能を示し、（2）VL理解タスクにおいて優れたグランドイング能力を有している。コードはhttps://github.com/microsoft/GLIPにて公開予定である。