
다중 작업 학습(Multi-Task Learning)이 작업 간 보완적인 지식을 활용할 수 있는 가능성을 제시하고 있음에도 불구하고, 기존의 다중 작업 최적화(Multi-Task Optimization, MTO) 기법은 최적화기 중심의 손실 스케일링 및 그래디언트 조작 전략을 통해 충돌을 해결하려는 데에 집중되어 있으며, 이로 인해 일관된 성능 향상은 제공하지 못하고 있다. 본 논문에서는 작업 간 상호작용이 자연스럽게 발생하는 공유 표현 공간이 기존 최적화기와 보완적인 운영을 위한 풍부한 정보와 가능성을 제공한다고 주장한다. 특히, 작업 간 보완성을 촉진하는 데 있어 거의 탐구되지 않은 영역이다. 이 통찰은 작업별 최적화와 공유 표현 학습 간 상호작용을 정량화하기 위해 표현 수준에서의 작업 특이성(task saliency)을 활용하는 Rep-MTL로 이어진다. 엔트로피 기반의 벌점(penalization)과 샘플 단위의 작업 간 정렬(sample-wise cross-task alignment)을 통해 이러한 특이성을 조정함으로써, Rep-MTL은 단순히 충돌 해결에만 집중하는 대신 개별 작업의 효과적인 학습을 유지함으로써 부정적 전달(negative transfer)을 완화하고, 명시적으로 보완적인 정보 공유를 촉진하고자 한다. 본 연구에서는 작업 전환(task-shift)과 도메인 전환(domain-shift) 시나리오를 모두 포함하는 네 가지 도전적인 MTL 기준 테스트에서 실험을 진행하였다. 결과는 Rep-MTL이 기본적인 동일 가중치 정책과 결합하더라도 높은 효율성과 함께 경쟁력 있는 성능 향상을 달성함을 보여준다. 표준적인 성능 지표 외에도, 파워 라우 법 지수(Power Law exponent) 분석을 통해 Rep-MTL이 작업별 학습과 작업 간 정보 공유 사이의 균형을 효과적으로 유지함을 입증하였다. 프로젝트 페이지는 HERE에서 확인할 수 있다.