
要約
パーソナライズドフェデレーテッドラーニングは、各クライアントが独自のデータ分布を持つ状況下で、複数のクライアント向けに機械学習モデルを訓練することを目的としている。この課題の目標は、クライアント間のデータ格差を考慮しつつ、協調的にパーソナライズされたモデルを学習し、通信コストを低減することにある。本研究では、ハイパーネットワークを活用した新しいアプローチを提案し、パーソナライズド・フェデレーテッド・ハイパーネットワーク(pFedHN)と命名する。この手法では、中央のハイパーネットワークモデルを訓練し、各クライアントごとに個別のモデルを生成する。このアーキテクチャにより、クライアント間で効果的なパラメータ共有が実現される一方で、それぞれのクライアントに特化した多様なパーソナライズモデルの生成能力も維持される。さらに、ハイパーネットワークのパラメータは通信されないため、このアプローチは通信コストとトレーナブルモデルのサイズを分離することができる。実験において、pFedHNは複数のパーソナライズドフェデレーテッドラーニングの課題に対して評価され、従来の手法を上回る性能を示した。最後に、ハイパーネットワークがクライアント間で情報を共有する性質を利用し、訓練中に観測されたどのクライアントとも異なるデータ分布を持つ新たなクライアントに対しても、pFedHNがより優れた一般化性能を発揮することを示した。