11日前

転移学習を活用したユニバーサルなグラフニューラルネットワーク埋め込みの学習

Saurabh Verma, Zhi-Li Zhang
転移学習を活用したユニバーサルなグラフニューラルネットワーク埋め込みの学習
要約

大規模なデータ埋め込み(データ埋め込み)の学習は、機械学習、特に自然言語処理およびコンピュータビジョンの分野において中心的な役割を果たすようになっている。これらの埋め込みの核となるのは、巨大なデータコーパスを教師なしの形で事前学習することであり、場合によっては転移学習を活用する。しかし、現在のグラフ学習分野においては、既存のグラフニューラルネットワーク(GNN)によって学習された埋め込みはタスク依存的であり、異なるデータセット間で共有できないという課題がある。本論文では、タスクに依存しないグラフ埋め込みを学習することを目的として設計された、初めての強力かつ理論的に保証されたグラフニューラルネットワークを提案する。これを以降、深層汎用グラフ埋め込み(Deep Universal Graph Embedding, DUGNN)と呼ぶ。本DUGNNモデルは、汎用グラフエンコーダとしての新規なグラフニューラルネットワークと、多タスクグラフデコーダとしての豊富なグラフカーネル(Graph Kernels)を組み合わせ、教師なし学習およびタスク固有の適応的教師あり学習の両方を実現する。多様なデータセットにわたってタスクに依存しないグラフ埋め込みを学習することにより、DUGNNは転移学習の利点も享受できる。広範な実験およびアブレーション研究を通じて、提案するDUGNNモデルが、既存の最先端GNNモデルおよびグラフカーネルに対して、グラフ分類ベンチマークデータセットにおいて3%~8%の精度向上を一貫して達成することを示した。

転移学習を活用したユニバーサルなグラフニューラルネットワーク埋め込みの学習 | 最新論文 | HyperAI超神経