SR-Forest：遺伝的プログラミングを用いた異種集合学習手法

近年、予測性能が高いため、アンサンブル学習手法は機械学習分野で広く用いられている。遺伝的プログラミングに基づく記号回帰手法の発展に伴い、多くの研究では、一般的なアンサンブル手法であるランダムフォレストをベースラインの競合手法として選択する傾向にある。しかし、これらを単なる競合対象として捉えるのではなく、記号回帰をランダムフォレストの性能向上手法として捉えるという代替的な視点が考えられる。遺伝的プログラミングに基づく記号回帰手法は滑らかな関数をフィッティングするが、これは決定木の区分的（piecewise）な性質と補完的である。回帰問題において滑らかな変化は一般的であるため、この点で両者は相性が良い。本稿では、記号回帰に基づく決定木を用いてアンサンブルモデルを構築することで、この課題に取り組む手法を提案する。さらに、高次元問題における探索速度を向上させるためのガイド付き突然変異演算子、計算コストを低減するためのマルチファシリティ評価戦略、および予測性能を向上させるためのアンサンブル選択メカニズムを設計した。最終的に、120個のデータセットから構成される回帰ベンチマークにおける実験結果から、提案手法が25種類の既存の記号回帰およびアンサンブル学習手法を上回ることを示した。また、XGBoostのハイパーパラメータ性能予測という、アンサンブル学習手法の重要な応用分野においても、本手法が有意な洞察を提供できることを示した。