Depthwise Convolution が学習に必要なすべてである - 複数の視覚ドメインの学習において

異なる視覚ドメインの画像を処理できるモデルの設計に対する関心が高まっています。異なる視覚ドメインに共通する構造が存在し、その構造を共通のパラメータ化によって捉えることができる場合、各ドメインごとのモデルではなく、単一のモデルで全てのドメインを扱うことが可能になります。また、異なるドメイン間の関係性を認識したモデルは、新しいドメインに対して少ないリソースで訓練することができます。しかし、モデル内の再利用可能な構造を特定することは容易ではありません。本論文では、深度別分離畳み込みに基づく多ドメイン学習アーキテクチャを提案します。提案手法は、異なるドメインの画像がチャンネル間相関を持ちつつ、ドメイン固有の空間相関を持つという仮定に基づいています。提案されたモデルはコンパクトであり、新しいドメインに適用する際には最小限のオーバーヘッドしか発生しません。さらに、異なるドメイン間でのソフトシェアリングを促進するゲーティング機構を導入しています。我々はVisual Decathlon Challenge（ビジュアルデカスロンチャレンジ）というベンチマークを使用して、多ドメインモデルの能力をテストしました。実験結果は、提案手法が最先端手法と比較してパラメータ数を50%削減しながら最高得点を達成できることを示しています。