コンテキスト認識型マルチパスネットワーク

単一のネットワークが多様なコンテキストを効果的に処理し、データセット内や複数のデータセット間の変動を学習することは、汎用的な知能を達成するための魅力的なステップです。既存のネットワークを深く、広く、または組み合わせる手法は一般的にコスト効率が良くありません。この観点から、入力のコンテキストに応じてリソースを割り当て、ネットワーク全体での情報フローを制御できるネットワークが有効です。本論文では、Context-Aware Multipath Network (CAMNet) を提案します。これは並列テンソル間でデータ依存的なルーティングを行うマルチパスニューラルネットワークです。我々のモデルは、個々のデータセットと異なる複数のデータセットにおいて、同時にまた順次的に変動を捉える一般化モデルとして機能することを示しています。CAMNet は、個別に、順次的に、および組み合わせて考慮した場合においても、同等のシングルパス、マルチパス、およびより深いシングルパスネットワークと比較して分類およびピクセルラベリングタスクにおける性能を上回ります。CAMNet 内でのテンソル間のデータ依存的なルーティングにより、モデルは情報フローをエンドツーエンドで制御し、どのリソースが共通であるかまたはドメイン固有であるかを選択することができます。