15日前

グラフエントロピー最小化を用いた半教師付きノード分類

Yi Luo, Guangchun Luo, Ke Qin, Aiguo Chen
グラフエントロピー最小化を用いた半教師付きノード分類
要約

ノード分類器は、産業界において予測誤差、学習リソース、推論遅延の3つの側面を包括的に低減する必要がある。しかし、大多数のグラフニューラルネットワーク(GNN)は、これらの中の一つまたは二つの側面にのみ注力しており、その結果、他の側面が「バケツの最も短い板」として機能し、産業レベルのタスクにおける実用的導入を妨げている。本研究では、これらの3つの課題を同時に解決するため、新たな半教師付き学習手法として「グラフエントロピー最小化(Graph Entropy Minimization, GEM)」を提案する。GEMは、大量の未分類ノードから得られる一階近傍集約(one-hop aggregation)を活用することで、二階以上(two or more hops)のメッセージパッシングを実行するGNNと同等の予測精度を達成する。また、独立したエッジサンプルのミニバッチを用いた確率的学習をサポートするための分解構造を備えており、極めて高速なサンプリングとメモリ効率の高い学習が可能となる。推論においても、深層GNNよりも高速な一階集約を実現する一方で、オンライン知識蒸留(online knowledge distillation)により非階層型(non-hop)分類器を導出することで、さらなる高速化が可能となる。このため、リソース制約下のハードウェア上で低遅延・高精度を要求されるサービスにおいて、GEMは実用的な選択肢となる。コードは以下のURLで公開されている:https://github.com/cf020031308/GEM。

グラフエントロピー最小化を用いた半教師付きノード分類 | 最新論文 | HyperAI超神経