2ヶ月前

半教師あり学習におけるグラフ畳み込みネットワークのより深い洞察

Qimai Li; Zhichao Han; Xiao-Ming Wu
半教師あり学習におけるグラフ畳み込みネットワークのより深い洞察
要約

機械学習の分野では、多くの興味深い問題が新しい深層学習ツールを用いて再検討されています。グラフベースの半教師あり学習において、最近の重要な進展はグラフ畳み込みネットワーク(Graph Convolutional Networks: GCNs)です。このモデルは、局所的な頂点特徴量とグラフのトポロジーを畳み込み層で巧妙に統合します。GCNモデルは他の最先端手法と比較して優れた性能を示していますが、そのメカニズムはまだ明確ではなく、検証やモデル選択のために相当数のラベル付きデータが必要です。本論文では、GCNモデルに対するより深い洞察を得るとともに、その基本的な限界に対処する方法を開発します。まず、GCNモデルのグラフ畳み込みが実際にはラプラシアン平滑化の特殊な形であることを示します。これはGCNsが機能する主な理由ですが、多くの畳み込み層を使用することで過度な平滑化(over-smoothing)という潜在的な懸念も引き起こします。次に、浅いアーキテクチャを持つGCNモデルの限界を克服するために、共学習(co-training)および自己訓練(self-training)アプローチを提案します。これらのアプローチにより、非常に少ないラベルでの学習においてGCNsの性能が大幅に向上し、検証のために追加のラベルを必要としなくなります。ベンチマークデータセットにおける広範な実験によって、我々の理論と提案が確認されています。

半教師あり学習におけるグラフ畳み込みネットワークのより深い洞察 | 最新論文 | HyperAI超神経