BN バッチ正規化

BN は、大規模な畳み込みネットワークのトレーニングを高速化し、収束後の分類精度を向上させる一連の正則化手法です。

BN がニューラル ネットワークの特定の層で使用される場合、各ミニバッチ データは内部で標準化され、出力が N(0,1) の正規分布に正規化され、内部ニューロン分布の変化が軽減されます。従来のディープニューラルネットワークを学習させる場合、各層の入力分布が変化するため学習が困難でしたが、BNを追加することでこの問題を解決できます。