リカレント ニューラル ネットワーク
リカレント ニューラル ネットワークの定義
リカレント ニューラル ネットワークは、時系列データ内のパターンを見つけて、それを使用して将来を予測すると考えることができます。ニューロンの入力には、現在の時点のデータだけでなく、前の時点の出力結果も必要です。時間次元では、次のように展開されます。 :
現在、リカレント ニューラル ネットワークは音声認識や言語モデルなどの自然言語処理に広く使用されており、その中でも手書き認識は RNN の利用に成功した最初の研究成果です。
リカレントニューラルネットワークの特徴
リカレント ニューラル ネットワーク RNN には方向性ループの概念があり、入力間のコンテキスト相関の問題に対処するために使用できます。方向性ループの構造は次の図に示されています。
フィードフォワード ニューラル ネットワーク FNN と比較して、リカレント ニューラル ネットワークは生物学的ニューラル ネットワークの構造により一致しています。
リカレント ニューラル ネットワークの応用
単語ベクトル表現、文の正当性チェック、単語のタグ付けなどの自然言語処理の分野では、リカレント ニューラル ネットワークが成功しています。最も普及しているモデルは LSTM (Long Short-Term Memory) モデルです。現在、リカレント ニューラル ネットワークは主に次の側面で使用されています。
- 言語モデリングとテキストの生成
- 機械翻訳
- 音声認識音声認識
- 画像説明の生成
参考リンク:
1.https://zh.wikipedia.org/wiki/リカレントニューラルネットワーク