迁移学习 Transfer Learning

迁移学习是将现有知识用于学习新知识的方法,其中原有知识被称为源域 Source Domain,需要学习的新知识为目标域 Target Domain,迁移学习目的是从源任务 Source Tasks 中抽取知识、经验,并将其应用于目标域中。

迁移学习分类

基于特征空间:

  • 同构迁移学习:源域和目标域的特征空间相同,XS = XT ;
  • 异构迁移学习:源域和目标域的特征空间不同,XS ≠ XT 。

基于迁移情景:

  • 归纳式迁移学习:源域和目标域的学习任务不同;
  • 直推式迁移学习:源域和目标域的学习任务相同;
  • 无监督迁移学习:源域和目标域均没有标签。

迁移学习基本方法

  • 样本迁移:在源域中找到与目标域相似的数据,调整数据权值,使得新数据与目标域数据相匹配;
  • 模型迁移:假设源域和目标域共享模型参数,将源域中训练完成的模型应用到目标域上进行预测;
  • 关系迁移:假设两个域是相似的,将源域中逻辑网络关系应用到目标域上进行迁移。

参考来源

【1】https://zhuanlan.zhihu.com/p/27368456

【2】https://github.com/jindongwang/transferlearning/blob/master/doc//迁移学习简介.md

【3】http://www.xtecher.com/Xfeature/view?aid=7383