Beschneidung
BeschneidungEs handelt sich um eine Methode, um die Verzweigung des Entscheidungsbaums zu verhindern. Es wird verwendet, um das Problem der Überanpassung in Entscheidungsbäumen zu lösen, hauptsächlich um den Entscheidungsbaum zu vereinfachen.
Der Grund für das Beschneiden liegt darin, dass während des Lernprozesses des Entscheidungsbaums, um die Trainingsbeispiele möglichst korrekt zu klassifizieren, kontinuierlich Knoten generiert werden, was zu zu vielen Verzweigungen im Entscheidungsbaum führt und somit die Effizienz verringert. Zu diesem Zeitpunkt sind Beschneidungsvorgänge erforderlich, um den Entscheidungsbaum zu vereinfachen.
Die Bedeutung des Beschneidens
Der Entscheidungsbaumalgorithmus muss die optimale Größe des Baums bestimmen. Ein zu großer Baum führt zu einer Überanpassung und lässt sich nur schwer auf neue Stichproben verallgemeinern. Gleichzeitig ist ein kleiner Baum möglicherweise nicht in der Lage, strukturelle Informationen über den Stichprobenraum zu erfassen.
Außerdem lässt sich nur schwer bestimmen, wann ein Baumalgorithmus beendet werden sollte, da sich nicht vorhersagen lässt, ob ein einzelner Knoten die Fehlerrate verringert. Die gängigste Strategie besteht darin, den Baum zu vergrößern, bis jeder Knoten eine kleine Anzahl von Instanzen enthält, und dann durch Beschneiden unnötige Knoten zu entfernen.
Ideen und Methoden des Beschneidens
Das Beschneidungsprinzip besteht darin, die Größe des Entscheidungsbaums zu bestimmen:
- Verwenden Sie Trainings- und Validierungssätze, um die Auswirkungen von Beschneidungsmethoden auf Beschneidungsknoten zu bewerten.
- Verwenden Sie für das Training den gesamten Trainingssatz, verwenden Sie jedoch statistische Tests, um zu ermitteln, ob das Beschneiden bestimmter Knoten die Leistung bei Daten außerhalb des Trainingssatzes verbessert.
- Verwenden Sie explizite Kriterien, um die Komplexität von Trainingsbeispielen und Entscheidungsbäumen zu messen.
Der spezifische Vorgang des Beschneidens besteht darin, einige Teilbäume oder Blattknoten vom Entscheidungsbaum zu subtrahieren und dann den Stammknoten oder übergeordneten Knoten als Blattknoten zu verwenden.
Klassifizierung des Beschneidens
Das Beschneiden wird üblicherweise in zwei Kategorien unterteilt: Vorbeschneiden und Nachbeschneiden