Command Palette
Search for a command to run...
多粒度視覚言語事前学習:テキストと視覚概念のアライメント
多粒度視覚言語事前学習:テキストと視覚概念のアライメント
Yan Zeng Xinsong Zhang Hang Li
概要
現存の視覚言語事前学習の大多数の手法は、物体検出を介して抽出された物体中心の特徴に依存し、これらの特徴とテキストとの間で細かい対応付けを行っています。これらの手法が複数の物体間の関係を学習することは困難です。この課題に対処するため、私たちは「多粒度視覚言語事前学習」を行う新しい手法であるX-VLMを提案します。多粒度対応付けを学習する鍵は、関連するテキストに基づいて画像内の視覚概念を特定し、同時にこれらの視覚概念とテキストとの対応付けを行うことです。ここでいう対応付けは多粒度であるということです。実験結果は、X-VLMが学習した多粒度対応付けを多くの下流の視覚言語タスクに効果的に活用し、一貫して最先端の手法を上回ることを示しています。