8일 전
FACT: 연합 적대적 교차 훈련
Stefan Schrod, Jonas Lippl, Andreas Schäfer, Michael Altenbuchinger

초록
연합 학습(Federated Learning, FL)은 여러 기밀 데이터 소스를 통합하여 분산된 모델 개발을 가능하게 한다. 그러나 클라이언트 간의 정보 전달은 데이터 분포의 차이, 즉 비독립적이고 동일하지 않은(non-i.i.d.) 데이터로 인해 위협받을 수 있다. 특히, 레이블이 부여된 데이터에 접근할 수 없는 타겟 클라이언트에 대해 연합 모델을 적응시키는 상황은 특히 도전적인 과제이다. 본 연구에서는 소스 클라이언트 간의 은닉된 도메인 차이를 활용하여 타겟 도메인의 도메인 전이(domain shift)를 탐지하는 연합 적대적 교차 훈련(Federated Adversarial Cross Training, FACT)을 제안한다. FACT는 FL의 각 라운드에서 두 개의 소스 클라이언트를 교차 초기화하여 도메인 특화 표현을 생성하고, 이를 직접적인 적대자로 활용하여 도메인 불변 데이터 표현을 학습한다. 실증적으로 FACT는 세 가지 대표적인 다중 소스-단일 타겟 벤치마크에서 최첨단 연합 학습, 비연합 학습 및 소스 무관 도메인 적응(source-free domain adaptation) 모델을 초월하며, 단일 소스-단일 타겟 실험에서도 최첨단 비감독 도메인 적응(Unsupervised Domain Adaptation, UDA) 모델보다 우수한 성능을 보였다. 또한 FACT의 통신 제약 조건 및 참여 클라이언트 수에 따른 행동 특성을 추가로 탐구하였다.