HyperAIHyperAI

Command Palette

Search for a command to run...

SR-Forest:遺伝的プログラミングを用いた異種集合学習手法

Mengjie Zhang Bing Xue Qi Chen Aimin Zhou Hengzhe Zhang

概要

近年、予測性能が高いため、アンサンブル学習手法は機械学習分野で広く用いられている。遺伝的プログラミングに基づく記号回帰手法の発展に伴い、多くの研究では、一般的なアンサンブル手法であるランダムフォレストをベースラインの競合手法として選択する傾向にある。しかし、これらを単なる競合対象として捉えるのではなく、記号回帰をランダムフォレストの性能向上手法として捉えるという代替的な視点が考えられる。遺伝的プログラミングに基づく記号回帰手法は滑らかな関数をフィッティングするが、これは決定木の区分的(piecewise)な性質と補完的である。回帰問題において滑らかな変化は一般的であるため、この点で両者は相性が良い。本稿では、記号回帰に基づく決定木を用いてアンサンブルモデルを構築することで、この課題に取り組む手法を提案する。さらに、高次元問題における探索速度を向上させるためのガイド付き突然変異演算子、計算コストを低減するためのマルチファシリティ評価戦略、および予測性能を向上させるためのアンサンブル選択メカニズムを設計した。最終的に、120個のデータセットから構成される回帰ベンチマークにおける実験結果から、提案手法が25種類の既存の記号回帰およびアンサンブル学習手法を上回ることを示した。また、XGBoostのハイパーパラメータ性能予測という、アンサンブル学習手法の重要な応用分野においても、本手法が有意な洞察を提供できることを示した。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています