HyperAIHyperAI

Command Palette

Search for a command to run...

時間の経過によるバックプロパゲーション

Date

6年前

時間によるバックプロパゲーションは、リカレント ニューラル ネットワーク (RNN) に適用されるバックプロパゲーション アルゴリズムです。

BPTT は、RNN に適用される標準的な逆伝播アルゴリズムとみなすことができます。各タイム ステップは計算層を表し、そのパラメーターは計算層間で共有されます。

RNN はすべてのタイム ステップで同じパラメータを共有するため、あるタイム ステップでの誤差は「時間を経て」前のすべてのタイム ステップに逆伝播する必要があり、これがアルゴリズムの名前の由来です。長いシーケンス (数百の入力) を処理する場合、計算コストを削減するために BPTT の切り詰められたバージョンがよく使用されます。切り詰められた BPTT は、一定のステップ数の後に誤差の逆伝播を停止します。

Build AI with AI

From idea to launch — accelerate your AI development with free AI co-coding, out-of-the-box environment and best price of GPUs.

AI Co-coding
Ready-to-use GPUs
Best Pricing

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています