要約
グラフ畳み込みネットワークは、従来のラベル伝播（transductive label propagation）の特性により、ラベルのないサンプルに対して良好な予測を実現する。各サンプルの予測信頼度は異なるため、高い信頼度を持つ予測を擬似ラベル（pseudo labels）として採用し、ラベル集合を拡張することで、モデル更新に用いるサンプル数を増加させる。本研究では、新たに「相互教師学習（mutual teaching）」と呼ばれる訓練手法を提案する。この手法では、二つのモデルを並列に学習させ、各バッチごとに互いに教師関係を形成する。具体的には、まず各ネットワークがすべてのサンプルに対して順伝播を行い、信頼度の高い予測を持つサンプルを選択する。次に、各モデルは相手のネットワークが選択したサンプルを用いて自身を更新する。高い信頼度による予測を有用な知識と捉え、その知識を用いてバッチごとにモデルを更新することで、一方のネットワークの有用な知識が他方のネットワークに伝達される。相互教師学習では、あるネットワークの擬似ラベル集合は、その相手ネットワークによって生成される。この新たなネットワーク訓練戦略を導入したことにより、性能の顕著な向上が達成された。広範な実験結果から、極めて低いラベル率の条件下でも、本手法が最先端の手法を上回る優れた性能を発揮することが示された。