FeatUp: 任意解像度の特徴量を対象としたモデル非依存フレームワーク

深層特徴は、コンピュータビジョン研究の基盤であり、画像の意味を捉え、コミュニティがゼロショットやファーウショットの状況でも下流タスクを解決することを可能にしています。しかし、これらの特徴はしばしば空間解像度が不足しており、セグメンテーションや深度予測などの密集予測タスクを直接行うことができません。これは、モデルが広範囲で情報を積極的にプーリングするためです。本研究では、深層特徴に失われた空間情報を復元するためのタスクおよびモデルに依存しないフレームワーク FeatUp を導入します。FeatUp には2つのバリエントがあります。1つ目は単一の前向き伝播で高解像度信号によって特徴をガイドする方法であり、2つ目は単一画像に対して暗黙的なモデルを適合させて任意の解像度で特徴を再構築する方法です。両方のアプローチは、NeRF（Neural Radiance Fields）と同様のマルチビュー一貫性損失を使用しています。私たちの特徴量は元々の意味を保ちつつ、既存のアプリケーションに組み込むことで再学習なしに解像度と性能向上をもたらすことができます。実験結果から、FeatUp がクラス活性化マップ生成、セグメンテーションと深度予測への転移学習、そして意味セグメンテーションに対するエンドツーエンド学習において他の特徴量アップサンプリングや画像超解像技術よりも大幅に優れていることを示しています。