HyperAI超神経

転移学習 転移学習

転移学習既存の知識を使用して新しい知識を学習する方法です。元の知識はソース領域と呼ばれます。学習する必要がある新しい知識は、ソースタスクから知識と経験を抽出することです。 . を選択し、ターゲット ドメインに適用します。

転移学習の分類

特徴空間に基づく:

  • 同型転移学習: ソース ドメインとターゲット ドメインの特徴空間は同じです (XS = XT)。
  • 異種転移学習: ソース ドメインとターゲット ドメインの特徴空間は異なります (XS ≠ XT)。

移行シナリオに基づく:

  • 帰納的転移学習: ソース ドメインとターゲット ドメインの学習タスクは異なります。
  • 直接転移学習: ソース ドメインとターゲット ドメインの学習タスクは同じです。
  • 教師なし転移学習: ソース ドメインとターゲット ドメインの両方にラベルはありません。

転移学習の基本的な手法

  • サンプル移行: ターゲット ドメインに類似したソース ドメイン内のデータを検索し、新しいデータがターゲット ドメインのデータと一致するようにデータの重みを調整します。
  • モデルの移行: ソース ドメインとターゲット ドメインがモデル パラメーターを共有すると仮定し、ソース ドメインでトレーニングされたモデルをターゲット ドメインに適用して予測します。
  • 関係の移行: 2 つのドメインが類似していると仮定して、移行元ドメインの論理ネットワーク関係を移行先ドメインに適用します。

参考文献

【1】https://zhuanlan.zhihu.com/p/27368456

【2】https://github.com/jindongwang/transferlearning/blob/master/doc//転移学習の概要.md

【3】http://www.xtecher.com/Xfeature/view?aid=7383