時間の経過によるバックプロパゲーション

時間によるバックプロパゲーションは、リカレント ニューラル ネットワーク (RNN) に適用されるバックプロパゲーション アルゴリズムです。

BPTT は、RNN に適用される標準的な逆伝播アルゴリズムとみなすことができます。各タイム ステップは計算層を表し、そのパラメーターは計算層間で共有されます。

RNN はすべてのタイム ステップで同じパラメータを共有するため、あるタイム ステップでの誤差は「時間を経て」前のすべてのタイム ステップに逆伝播する必要があり、これがアルゴリズムの名前の由来です。長いシーケンス (数百の入力) を処理する場合、計算コストを削減するために BPTT の切り詰められたバージョンがよく使用されます。切り詰められた BPTT は、一定のステップ数の後に誤差の逆伝播を停止します。