Kein Kostenloses Mittagessen-Theorem

NFL-TheoremDies bedeutet, dass kein Lernalgorithmus in allen Bereichen genaue Lerner hervorbringen kann, d. h., für Probleme in einem bestimmten Bereich ist die erwartete Leistung aller Algorithmen gleich.

NFL-spezifische Beschreibung

• Die Mittelung aller möglichen Zielfunktionen ergibt den gleichen Erwartungswert des „Nicht-Trainingssatzfehlers“.
• Die Mittelung der Zielfunktion in jedem festen Trainingssatz ergibt den gleichen erwarteten Wert des „Nicht-Trainingssatz-Fehlers“.
• Die Mittelung des Vorwissens ergibt den gleichen Erwartungswert des „Nicht-Trainingssatzfehlers“.
• Die Mittelung des Vorwissens in einem beliebigen festen Trainingssatz ergibt den gleichen Erwartungswert des „Nicht-Trainingssatz-Fehlers“.

Der NFL-Satz führt zu einem universellen „Erhaltungssatz“ – für einen realisierbaren Lernalgorithmus ist die Summe seiner Leistung über alle möglichen Zielfunktionen Null.