2ヶ月前
ゲート付き再帰型ニューラルネットワークの系列モデル化における経験的評価
Junyoung Chung; Caglar Gulcehre; KyungHyun Cho; Yoshua Bengio

要約
本論文では、再帰型ニューラルネットワーク(RNN)における異なる種類の再帰ユニットを比較する。特に、ゲーティング機構を実装したより洗練されたユニット、例えば長短期記憶(LSTM)ユニットや最近提案されたゲーテッド再帰ユニット(GRU)に焦点を当てる。これらの再帰ユニットは、多声音楽モデリングと音声信号モデリングのタスクにおいて評価した。実験の結果、これらの先進的な再帰ユニットがtanhユニットなどの従来の再帰ユニットよりも優れていることが明らかになった。また、GRUがLSTMと同等であることも確認された。