挑戦的なNLPアプリケーション向けのスケーラブルで信頼性の高いカプセルネットワークへ

カプセルネットワークの発展が困難なNLP（自然言語処理）アプリケーションにおける課題を克服する上で、大きな出力空間へのスケーラビリティの悪さと信頼性の低いルーティングプロセスが障壁となっています。本論文では、以下の3つの手法を提案します：1) インスタンスレベルでのルーティングプロセスの性能評価に用いる合意スコア；2) ルーティングの信頼性を向上させる適応型最適化アルゴリズム；3) カプセル圧縮と部分的なルーティングによりカプセルネットワークのスケーラビリティを改善する方法。これらの手法を、マルチラベルテキスト分類と質問応答という2つのNLPタスクで検証しました。実験結果は、両タスクにおいて強力な競合手法に対して大幅に性能を向上させることを示しています。さらに、少ない訓練データしか利用できない低リソース設定においても最高の結果を得ています。