HyperAIHyperAI

Command Palette

Search for a command to run...

時間の経過によるバックプロパゲーション

日付

6年前

時間によるバックプロパゲーションは、リカレント ニューラル ネットワーク (RNN) に適用されるバックプロパゲーション アルゴリズムです。

BPTT は、RNN に適用される標準的な逆伝播アルゴリズムとみなすことができます。各タイム ステップは計算層を表し、そのパラメーターは計算層間で共有されます。

RNN はすべてのタイム ステップで同じパラメータを共有するため、あるタイム ステップでの誤差は「時間を経て」前のすべてのタイム ステップに逆伝播する必要があり、これがアルゴリズムの名前の由来です。長いシーケンス (数百の入力) を処理する場合、計算コストを削減するために BPTT の切り詰められたバージョンがよく使用されます。切り詰められた BPTT は、一定のステップ数の後に誤差の逆伝播を停止します。

AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています