8일 전

FACT: 연합 적대적 교차 훈련

Stefan Schrod, Jonas Lippl, Andreas Schäfer, Michael Altenbuchinger
FACT: 연합 적대적 교차 훈련
초록

연합 학습(Federated Learning, FL)은 여러 기밀 데이터 소스를 통합하여 분산된 모델 개발을 가능하게 한다. 그러나 클라이언트 간의 정보 전달은 데이터 분포의 차이, 즉 비독립적이고 동일하지 않은(non-i.i.d.) 데이터로 인해 위협받을 수 있다. 특히, 레이블이 부여된 데이터에 접근할 수 없는 타겟 클라이언트에 대해 연합 모델을 적응시키는 상황은 특히 도전적인 과제이다. 본 연구에서는 소스 클라이언트 간의 은닉된 도메인 차이를 활용하여 타겟 도메인의 도메인 전이(domain shift)를 탐지하는 연합 적대적 교차 훈련(Federated Adversarial Cross Training, FACT)을 제안한다. FACT는 FL의 각 라운드에서 두 개의 소스 클라이언트를 교차 초기화하여 도메인 특화 표현을 생성하고, 이를 직접적인 적대자로 활용하여 도메인 불변 데이터 표현을 학습한다. 실증적으로 FACT는 세 가지 대표적인 다중 소스-단일 타겟 벤치마크에서 최첨단 연합 학습, 비연합 학습 및 소스 무관 도메인 적응(source-free domain adaptation) 모델을 초월하며, 단일 소스-단일 타겟 실험에서도 최첨단 비감독 도메인 적응(Unsupervised Domain Adaptation, UDA) 모델보다 우수한 성능을 보였다. 또한 FACT의 통신 제약 조건 및 참여 클라이언트 수에 따른 행동 특성을 추가로 탐구하였다.

FACT: 연합 적대적 교차 훈련 | 최신 연구 논문 | HyperAI초신경