2ヶ月前

C-LSTMニューラルネットワークを用いたテキスト分類

Chunting Zhou; Chonglin Sun; Zhiyuan Liu; Francis C.M. Lau
C-LSTMニューラルネットワークを用いたテキスト分類
要約

ニューラルネットワークモデルは、文章や文書のモデリングにおいて優れた性能を達成できることが示されています。このようなモデリングタスクには、畳み込みニューラルネットワーク(CNN)と再帰型ニューラルネットワーク(RNN)が二つの主流アーキテクチャとして用いられており、自然言語の理解方法が全く異なります。本研究では、両アーキテクチャの長所を組み合わせて、新しい統一モデルであるC-LSTMを提案します。C-LSTMは、CNNを使用して高次フレーズ表現の系列を抽出し、それを長期短期記憶再帰型ニューラルネットワーク(LSTM)に供給することで、文章表現を得ます。C-LSTMは、フレーズの局所的な特徴だけでなく、文全体の意味論的および時間的な構造も捉えることができます。我々は提案したアーキテクチャを感情分類と質問分類タスクで評価しました。実験結果は、C-LSTMがCNNとLSTM双方を上回り、これらのタスクにおいて優れた性能を達成できることを示しています。

C-LSTMニューラルネットワークを用いたテキスト分類 | 最新論文 | HyperAI超神経