個別化されたフェデレーテッドラーニング：ガウス過程を用いたアプローチ

フェデレーテッドラーニングは、クライアント間の通信を最小限に抑えつつ、クライアント端末上で良好な性能を発揮するグローバルモデルを学習することを目的としている。パーソナライズドフェデレーテッドラーニング（PFL）は、クライアント間のデータ非同一性（データ異質性）に対応するため、個別化されたモデルを学習するという点でこの枠組みを拡張している。この設定における主要な課題は、各クライアントが独自のデータを保有しており、そのデータ量もしばしば限られているにもかかわらず、効果的にモデルを学習することである。本研究では、深層カーネル学習を用いたガウス過程（GPs）に基づくPFLの解決策であるpFedGPを提案する。GPsはベイズ的な性質により、データが少ない状況でも高い表現力を持つモデルとして優れた性能を発揮する。しかし、GPsをPFLに適用するには複数の課題が存在する。特に、GPsの性能は優れたカーネル関数の利用に強く依存しており、カーネル関数の学習には大量の訓練データが必要となる。これに対し、本研究ではすべてのクライアントに共有されるカーネル関数をニューラルネットワークでパラメータ化し、各クライアントごとに個別のガウス過程分類器を導入する手法を提案する。さらに、pFedGPを2つの新規手法を用いて誘導点（inducing points）を導入する形で拡張した。第一の手法は、データ量が少ない状況における一般化性能を向上させ、第二の手法は計算コストを低減する。本研究では、新たなクライアントに対するPAC-Bayes一般化バウンドを導出し、実証的にその非自明（non-vacuous）な保証が得られることを示した。CIFAR-10、CIFAR-100、CINIC-10を用いた標準的なPFLベンチマークおよび入力ノイズ下での学習という新しい設定において、pFedGPはベースライン手法を著しく上回る性能を達成し、予測のキャリブレーション（校正）も良好であることが確認された。特に、精度向上は最大で21%に達した。