HyperAIHyperAI

Command Palette

Search for a command to run...

グラフニューラルネットワークの表現のボトルネックを打破する

Mingqi Yang; Yanming Shen; Heng Qi; Baocai Yin

概要

最近、Weisfeiler-Lehman (WL) グラフ同型テストがグラフニューラルネットワーク (GNNs) の表現力を測定するために使用されました。その結果、近傍集約型の GNNs は、グラフ構造を区別する能力において最大でも 1-WL テストと同等であることが示されました。また、kkk-WL テスト (k>1k>1k>1) に類似した改良案も提案されています。しかし、これらの GNNs のアグリゲータは WL テストで要求される単射性から遠く離れていますし、区別力が弱いため、表現力のボトルネックとなっています。本論文では、強力なアグリゲータを探求することで表現力を向上させることを目指します。まず、対応する集約係数行列を使用して集約を再定式化し、その後、より強力なアグリゲータや単射アグリゲータを構築するために集約係数行列に必要な要件を系統的に分析します。これは隠れ特徴量のランクを保つ戦略としても解釈でき、基本的なアグリゲータが低ランク変換の特別なケースに対応することを示唆しています。さらに、集約前に非線形ユニットを適用する必要性も示しており、これは大多数の集約ベースの GNNs とは異なります。我々の理論的分析に基づいて、ExpandingConv および CombConv という2つの GNN レイヤーを開発しました。実験結果は、特に大規模で密接に接続されたグラフに対して性能が大幅に向上することを示しています。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています