要約
近年、グラフニューラルネットワーク（GNN）が構造化データのモデリングにおいて成功を収めています。しかし、多くのGNNは同種のグラフ向けに設計されており、すべてのノードとエッジが同じタイプであるため、異種の構造を表現するには不適切です。本論文では、Webスケールの異種グラフをモデル化するためのヘテロジニアス・グラフ・トランスフォーマー（HGT）アーキテクチャを提案します。異種性をモデル化するために、ノードおよびエッジタイプ依存パラメータを設計し、各エッジに対するヘテロジニアスな注意機構を特徴づけます。これにより、HGTは異なるタイプのノードとエッジに対して専用の表現を維持することが可能になります。動的な異種グラフに対処するために、相対的な時間エンコーディング技術をHGTに導入しました。この技術は任意の期間における動的構造依存関係を捉えることができます。また、Webスケールのグラフデータを取り扱うために、効率的かつスケーラブルな学習のためにヘテロジニアス・ミニバッチ・グラフサンプリングアルゴリズム---HGSampling---を開発しました。1億7900万ノードと20億エッジからなるオープンアカデミックグラフでの広範な実験結果から、提案されたHGTモデルは様々な下流タスクにおいて最新のGNNベースラインよりも9%～21%優れた性能を示していることが確認されました。