Une forêt évolutive pour la régression

La forêt aléatoire (RF) est un type de méthode d’apprentissage automatique basée sur l’ensemble, largement appliquée à diverses tâches récentes. Cet article propose une approche évolutionnaire visant à générer une forêt aléatoire oblique pour des problèmes de régression. Plus précisément, notre méthode construit une forêt aléatoire oblique en transformant l’espace de caractéristiques original vers un nouvel espace de caractéristiques grâce à une méthode évolutionnaire de construction de caractéristiques. Afin d’accélérer le processus de recherche, la méthode proposée évalue chaque ensemble de caractéristiques à l’aide d’un arbre de décision (DT) plutôt que d’une forêt aléatoire. Afin d’obtenir une forêt aléatoire, nous conservons dans une archive les meilleures caractéristiques et les arbres correspondants durant la recherche. Ainsi, les caractéristiques et la forêt peuvent être construites simultanément en une seule exécution. La forêt évolutionnaire proposée est évaluée sur 117 problèmes standards présentant des caractéristiques variées, et comparée à plusieurs méthodes de régression de pointe, notamment diverses variantes de la forêt aléatoire et des arbres de décision boostés par gradient (GBDT). Les résultats expérimentaux montrent que la méthode proposée surpasse les méthodes RF et GBDT existantes.