要約
深層ニューラルアーキテクチャの設計において、最近の研究ではサブネットワークをより大きなネットワークにグループ化することの利点が示されています。例えば、Inceptionアーキテクチャは多スケールサブネットワークを統合し、残差ネットワークは残差ユニットが残差サブネットワークとアイデンティティショートカットを組み合わせていると見なすことができます。本研究では、この観察に基づき、競合パスウェイネットワーク（Competitive Pathway Network, CoPaNet）を提案します。CoPaNetは競合パスウェイユニットのスタックで構成され、各ユニットには複数の並列な残差型サブネットワークが含まれ、その後に特徴量の競合を行うための最大値操作が続きます。このメカニズムにより、サブネットワーク内で様々な特徴量を学習することでモデル能力が向上します。提案された戦略は明確に示しており、特徴量が異なるルーティングパターンを通じてパスウェイを伝播する様子を表現しています。これをカテゴリ情報のパスウェイエンコーディングと呼びます。さらに、CoPaNetにはクロスブロックショートカットを追加して特徴量再利用を促進することができます。私たちはCIFAR-10、CIFAR-100、SVHN、およびImageNetという4つの物体認識ベンチマークで提案されたCoPaNetを評価しました。CoPaNetは同程度のパラメータ数を使用しながら最先端またはそれに匹敵する結果を得ました。CoPaNetのコードは以下のURLから入手可能です: https://github.com/JiaRenChang/CoPaNet.