2ヶ月前

K-平均値ルーティングを使用した構成的コーディングカプセルネットワークによるテキスト分類

Hao Ren; Hong Lu
K-平均値ルーティングを使用した構成的コーディングカプセルネットワークによるテキスト分類
要約

テキスト分類は、テキストのカテゴリーを識別することを目指す難問である。学習過程において、単語埋め込み(word embeddings)がパラメータの大部分を占めており、限られた計算リソースの制約下では、後続のネットワーク設計の能力を間接的に制限している。パラメータ数を削減するため、最近提案された合成符号化機構に基づいて、本論文ではさらに合成符号化を探究し、合成重み付け符号化手法を提案する。また、カプセルネットワークを用いて単語埋め込み間の関係をモデル化し、k-meansクラスタリング理論に基づく新しいルーティングアルゴリズムを提案することで、単語埋め込み間の関係を十分に掘り下げる。当該合成重み付け符号化手法とルーティングアルゴリズムを組み合わせて、テキスト分類用のニューラルネットワークを設計した。8つの難易度の高いテキスト分類データセットでの実験結果から、提案手法は大幅に少ないパラメータで最先端手法と同等以上の精度を達成することが示された。

K-平均値ルーティングを使用した構成的コーディングカプセルネットワークによるテキスト分類 | 最新論文 | HyperAI超神経