HyperAI超神経

フリーランチ定理はない フリーランチ定理はない

NFL の定理これは、どの学習アルゴリズムもすべての分野で正確な学習者を生成できないことを意味します。つまり、特定の分野の問題については、すべてのアルゴリズムが同じ期待パフォーマンスを発揮します。

NFL 固有の説明

  • 考えられるすべての目的関数を平均すると、得られる「非トレーニング セット誤差」の期待値は同じになります。
  • 固定トレーニング セットの目的関数を平均すると、「非トレーニング セット誤差」と同じ期待値が得られます。
  • 事前知識を平均すると、得られる「非トレーニング セット誤差」の期待値は同じになります。
  • 固定トレーニング セットの事前知識を平均すると、同じ期待値の「非トレーニング セット誤差」が生じます。

NFL の定理は普遍的な「保存率」につながります。つまり、実行可能な学習アルゴリズムの場合、考えられるすべての目的関数を合計すると、そのパフォーマンスはゼロになります。