HyperAIHyperAI

Command Palette

Search for a command to run...

深層競合パスウェイネットワーク

Jia-Ren Chang; Yong-Sheng Chen

概要

深層ニューラルアーキテクチャの設計において、最近の研究ではサブネットワークをより大きなネットワークにグループ化することの利点が示されています。例えば、Inceptionアーキテクチャは多スケールサブネットワークを統合し、残差ネットワークは残差ユニットが残差サブネットワークとアイデンティティショートカットを組み合わせていると見なすことができます。本研究では、この観察に基づき、競合パスウェイネットワーク(Competitive Pathway Network, CoPaNet)を提案します。CoPaNetは競合パスウェイユニットのスタックで構成され、各ユニットには複数の並列な残差型サブネットワークが含まれ、その後に特徴量の競合を行うための最大値操作が続きます。このメカニズムにより、サブネットワーク内で様々な特徴量を学習することでモデル能力が向上します。提案された戦略は明確に示しており、特徴量が異なるルーティングパターンを通じてパスウェイを伝播する様子を表現しています。これをカテゴリ情報のパスウェイエンコーディングと呼びます。さらに、CoPaNetにはクロスブロックショートカットを追加して特徴量再利用を促進することができます。私たちはCIFAR-10、CIFAR-100、SVHN、およびImageNetという4つの物体認識ベンチマークで提案されたCoPaNetを評価しました。CoPaNetは同程度のパラメータ数を使用しながら最先端またはそれに匹敵する結果を得ました。CoPaNetのコードは以下のURLから入手可能です: https://github.com/JiaRenChang/CoPaNet.


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
深層競合パスウェイネットワーク | 記事 | HyperAI超神経