HyperAI超神経

個人学習者個人学習者

個人学習者これは相対的な概念であり、アンサンブル学習における統合前の学習者です。

個々の学習者の生成方法に応じて、アンサンブル学習方法は次の 2 つのカテゴリに分類できます。

  • 強い依存関係があり、Boosting に代表されるシリアル化メソッドをシリアルに生成する必要があります。
  • 強い依存関係はなく、並列化手法はバギングとランダム フォレストに代表されます。

ブースティングは、弱い学習者を強い学習者に改善できるアルゴリズムです。最初に初期トレーニング セットからベース学習者をトレーニングし、次にベース学習者に応じてトレーニング サンプルの分布を調整します。さらに注意を受けた後、調整されたサンプル分布に基づいて次の基本学習器がトレーニングされます。これは、基本学習器の数が事前に指定された値 T に達するまで繰り返され、最後に T 個の学習器が重み付けされて結合されます。

バギングは並列アンサンブル学習法の代表的なもので、セルフサービス サンプリング法に基づいており、分散を減らすことに主に焦点を当てています。ランダム フォレスト アルゴリズムはバギングの拡張版であり、さらにベース学習器としてデシジョン ツリーを使用して、アンサンブルのバギング。ランダムな属性の選択は、ツリーのトレーニング プロセス中に導入されます。

参考文献

【1】「機械学習」ノート - 統合学習 (Zhihu 記事)