HyperAIHyperAI

Command Palette

Search for a command to run...

視覚表現学習の向上に向けた知覚的理解の活用

Samyakh Tukra Frederick Hoffman Ken Chatfield

概要

我々は、マスク自動符号化器(MAE)の拡張手法を提案する。この手法は、モデルが学習する表現の質を向上させるために、高レベルのシーン特徴を明示的に学習するよう促すものである。具体的には、以下の2つのアプローチを採用する。(i) 生成画像と実画像の間における知覚的類似性を評価する項の導入、(ii) 生成的対抗学習(adversarial training)の文脈で用いられる複数の技術、特にマルチスケール学習および適応的ディスクリミネータ増強の統合。これらの要素を組み合わせることで、ピクセルレベルの再構成性能の向上に加え、画像内の高レベルな詳細情報をよりよく捉えた表現が得られることを示す。さらに、本手法である「知覚的MAE(Perceptual MAE)」が下流タスクにおいて優れた性能を発揮することを実証し、従来の手法を上回ることを示す。ImageNet-1Kにおいて線形プロービングでトップ1精度78.1%を達成し、ファインチューニングでは最大88.1%の精度を記録した。他の下流タスクにおいても同様の優れた結果が得られ、追加の事前学習モデルやデータの利用を一切不要としている。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています