2ヶ月前

ハイブリッド接続を持つゲーテッド畳み込みネットワークを用いた画像分類

Chuanguang Yang; Zhulin An; Hui Zhu; Xiaolong Hu; Kun Zhang; Kaiqiang Xu; Chao Li; Yongjun Xu
ハイブリッド接続を持つゲーテッド畳み込みネットワークを用いた画像分類
要約

私たちは、DenseNetの冗長性を大幅に削減するための単純かつ効果的な方法を提案します。この方法では、元のボトルネック層をローカル残差を強化したSMGモジュールで置き換えることで、積み重ねられたモジュール数を大幅に削減します。さらに、SMGモジュールには効率的な二段階パイプラインが装備されています。このパイプラインは、DenseNetのようなアーキテクチャがすべての以前の出力を統合する必要がある場合に設計されており、情報量が多いが冗長な特徴量を階層的に圧縮し(アワジガラス形状)、その後マルチカーネル深度方向畳み込みによって活性化することで、コンパクトでありながら多尺度的な情報をより多く持つ出力を生成します。また、再利用された特徴量と新しい特徴量との間での単純な加算ではなく、効果的な融合を実現するために、注目度の高いアテンションモジュールを導入して忘却ゲートと更新ゲートを開発しました。このようなハイブリッド接続(グローバルな密集接続とローカルな残差接続の組み合わせ)とゲート機構により、私たちのネットワークはHCGNetと名付けられました。CIFARおよびImageNetデータセットにおける実験結果は、HCGNetがDenseNetよりも著しく効率的であることを示しており、複雑さが少ないにもかかわらず最先端のネットワークを大幅に上回る性能を発揮します。さらに、ネットワーク解剖学による解釈可能性と敵対的防御による堅牢性においても優れた性能を示しています。MS-COCOデータセットにおいても、HCGNetは一般的なバックボーンよりも一貫して優れた特徴量を学習することが確認されました。

ハイブリッド接続を持つゲーテッド畳み込みネットワークを用いた画像分類 | 最新論文 | HyperAI超神経