累積誤差逆伝播 累積誤差逆伝播

累積誤差逆伝播アルゴリズムは、累積誤差を最小化する更新ルールに基づいて導出される誤差逆伝播アルゴリズムの変形です。

誤差逆伝播 誤差逆伝播アルゴリズム (BP)

誤差逆伝播アルゴリズムは、順方向ニューラル ネットワークを使用してトレーニング エラーを計算し、そのトレーニング エラーを使用して隠れ層ニューロンに逆に作用します。これにより、各ニューロンの接続の重みとしきい値が調整され、継続的な学習によりトレーニング エラーが最小限に抑えられます。更新情報。

現在、ほとんどのニューラル ネットワーク学習は BP アルゴリズムに基づいており、多層フィードフォワード ニューラル ネットワークだけでなく、再帰的ニューラル ネットワークなどの学習にも使用できます。 BP アルゴリズムでトレーニングされた多層フィードフォワード ニューラル ネットワーク。

BP アルゴリズムのワークフロー

1. 入力サンプルは入力ニューロンに提供され、信号は出力層の結果が生成されるまで層ごとに転送されます。
2. 出力層の誤差を計算し、逆誤差を隠れ層のニューロンに伝播します。
3. 隠れ層ニューロンのエラーに応じて接続の重みとしきい値を調整します。

フォワード ニューラル ネットワーク (FP)

フォワード ニューラル ネットワークは、結果が隠れ層ニューロンを通じて直接取得できる点を除けば、複数のロジスティック回帰の組み合わせとみなすことができます。ただし、異なるカテゴリを合計する必要がある点を除けば、そのコスト関数はロジスティック関数と似ています。