전이 학습기존 지식을 이용하여 새로운 지식을 배우는 방법으로, 원래 지식을 소스 도메인이라고 하고, 학습하려는 새로운 지식을 타겟 도메인이라고 합니다. 전이 학습의 목적은 소스 작업에서 지식과 경험을 추출하여 타겟 도메인에 적용하는 것입니다.

전이 학습 분류

특징 공간을 기준으로:

• 동질 전이 학습: 소스 도메인과 타겟 도메인의 특징 공간이 동일함, XS = XT;
• 이질적 전이 학습: 소스 도메인과 타겟 도메인의 특징 공간이 다릅니다. XS ≠ XT.

마이그레이션 시나리오를 기반으로:

• 귀납적 전이 학습: 소스 도메인과 타겟 도메인의 학습 과제가 다릅니다.
• 전도적 전이 학습: 소스 도메인과 타겟 도메인의 학습 과제가 동일합니다.
• 비지도 전이 학습: 소스 도메인과 타겟 도메인 모두에 레이블이 없습니다.

전이 학습의 기본 방법

• 샘플 마이그레이션: 소스 도메인에서 대상 도메인과 유사한 데이터를 찾아 데이터 가중치를 조정하여 새 데이터가 대상 도메인 데이터와 일치하도록 합니다.
• 모델 전송: 소스 도메인과 타겟 도메인이 모델 매개변수를 공유한다고 가정하고, 소스 도메인에서 학습된 모델을 예측을 위해 타겟 도메인에 적용합니다.
• 관계 마이그레이션: 두 도메인이 유사하다고 가정하고 소스 도메인의 논리적 네트워크 관계를 대상 도메인에 적용하여 마이그레이션합니다.

참고문헌

【1】https://zhuanlan.zhihu.com/p/27368456

【2】https://github.com/jindongwang/transferlearning/blob/master/doc//전이 학습 소개.md

【3】http://www.xtecher.com/Xfeature/view?aid=7383