バイアス分散分解バイアス分散分解

「偏差分散分解」は、学習アルゴリズムの汎化性能をバイアスと分散の観点から説明するツールです。具体的な定義は次のとおりです。

K 個のデータセットがあるとします。各データセットは分布 p(t,x) から独立して抽出されます (t は予測対象の変数を表し、x は特性変数を表します)。

異なるデータ セットでトレーニングすることにより、異なるモデルを取得できます。学習アルゴリズムのパフォーマンスは、これらの K データ セットでトレーニングされた K モデルの平均パフォーマンスに基づいて測定されます。

ここで、h(x) はデータを生成する実数関数、つまり t=h(x) を表します。