バッチ正規化（Batch Normalization: BN）は、ミニバッチ内で標準化を行うことでニューラルネットワークの学習を加速し、汎化能力を向上させるために広く使用されています。デコレレートバッチ正規化（Decorrelated Batch Normalization: DBN）は、ホワイトニングを行うことで上記の効果をさらに高めますが、DBNは大規模なバッチサイズに強く依存するか、またはGPU上で効率が悪い固有値分解に頼っています。本研究では、イターレィティブ正規化（Iterative Normalization: IterNorm）を提案します。IterNormは、ニュートン反復法を使用してより効率的なホワイトニングを行い、同時に固有値分解を回避します。さらに、最適化と汎化の間でより良いトレードオフを持つことを理論的および実験的に示すための包括的な研究を開発しました。この目的のために、サンプルが正規化操作に適用される際の内在的な確率的不確定性を測定するための独自の概念である確率的正規化摂動（Stochastic Normalization Disturbance: SND）を導入します。SNDの支援により、最適化の観点からいくつかの現象に対する自然な説明を提供できます。例えば、DBNにおけるグループごとのホワイトニングが通常の全ホワイトニングよりも一般的に優れている理由や、BNの精度がバッチサイズが減少すると低下する理由などです。CIFAR-10およびImageNetでの広範な実験を通じて、BNとDBNに対してIterNormが一貫して性能を向上させることを示しています。