XBNet: Ein extrem boostetes neuronales Netzwerk

Neuronale Netze haben sich bei der Verarbeitung unstrukturierter Daten wie Bildern, Texten, Videos und Audiosignalen als sehr robust erwiesen. Es wurde jedoch beobachtet, dass ihre Leistung bei tabellarischen Daten nicht den Anforderungen entspricht; daher werden baumbasierte Modelle in solchen Szenarien bevorzugt. Ein weit verbreitetes Modell für tabellarische Daten sind gestufte Bäume (boosted trees), eine hochwirksame und intensiv eingesetzte Maschinenlernmethode, die im Vergleich zu neuronalen Netzen auch eine gute Interpretierbarkeit bietet. In dieser Arbeit beschreiben wir eine neuartige Architektur namens XBNet, die versucht, baumbasierte Modelle mit neuronalen Netzen zu kombinieren, um eine robuste Architektur zu schaffen, die durch eine innovative Optimierungstechnik trainiert wird: Boosted Gradient Descent for Tabular Data (gestuftes Gradientenabstieg für tabellarische Daten). Diese Technik erhöht sowohl die Interpretierbarkeit als auch die Leistung des Modells.