16日前

視覚表現学習の向上に向けた知覚的理解の活用

Samyakh Tukra, Frederick Hoffman, Ken Chatfield
視覚表現学習の向上に向けた知覚的理解の活用
要約

我々は、マスク自動符号化器(MAE)の拡張手法を提案する。この手法は、モデルが学習する表現の質を向上させるために、高レベルのシーン特徴を明示的に学習するよう促すものである。具体的には、以下の2つのアプローチを採用する。(i) 生成画像と実画像の間における知覚的類似性を評価する項の導入、(ii) 生成的対抗学習(adversarial training)の文脈で用いられる複数の技術、特にマルチスケール学習および適応的ディスクリミネータ増強の統合。これらの要素を組み合わせることで、ピクセルレベルの再構成性能の向上に加え、画像内の高レベルな詳細情報をよりよく捉えた表現が得られることを示す。さらに、本手法である「知覚的MAE(Perceptual MAE)」が下流タスクにおいて優れた性能を発揮することを実証し、従来の手法を上回ることを示す。ImageNet-1Kにおいて線形プロービングでトップ1精度78.1%を達成し、ファインチューニングでは最大88.1%の精度を記録した。他の下流タスクにおいても同様の優れた結果が得られ、追加の事前学習モデルやデータの利用を一切不要としている。

視覚表現学習の向上に向けた知覚的理解の活用 | 最新論文 | HyperAI超神経