FAKT: Federated Adversarial Cross Training

Federated Learning (FL) ermöglicht die verteilte Modellentwicklung zur Aggregation mehrerer vertraulicher Datensätze. Der Informationsaustausch zwischen den Clients kann durch Verteilungsunterschiede, also durch nicht-i.i.d. Daten, beeinträchtigt werden. Eine besonders herausfordernde Situation liegt vor, wenn ein federiertes Modell an einen Zielclient angepasst werden soll, ohne Zugriff auf annotierte Daten zu haben. Wir stellen Federated Adversarial Cross Training (FACT) vor, das die impliziten Domänenunterschiede zwischen Quell-Clients nutzt, um Domänenverschiebungen in der Ziel-Domäne zu identifizieren. In jeder Runde des FL initialisiert FACT ein Paar Quell-Clients gegenseitig, um domänen-spezifische Darstellungen zu generieren, die anschließend als direkter Gegner verwendet werden, um eine domäneninvariante Datenrepräsentation zu lernen. Experimentell zeigen wir, dass FACT state-of-the-art-Modelle für federiertes, nicht-federiertes und quellefreies Domänenadaptation auf drei gängigen Multi-Source-Single-Target-Benchmarks übertrifft und zudem state-of-the-art-Modelle für unüberwachte Domänenadaptation (UDA) in Single-Source-Single-Target-Experimenten schlägt. Darüber hinaus untersuchen wir das Verhalten von FACT unter Kommunikationsbeschränkungen und in Abhängigkeit von der Anzahl der beteiligten Clients.