17日前

ターゲット注意機構を備えたグラフニューラルネットワークに自己注意機構を導入する

Sai Mitheran, Abhinav Java, Surya Kant Sahu, Arshad Shaikh
ターゲット注意機構を備えたグラフニューラルネットワークに自己注意機構を導入する
要約

セッションベースの推薦システムは、短期間の匿名セッションを通じてユーザーの行動や嗜好をモデル化することで、関連するアイテムをユーザーに提示する。従来の手法では、グラフニューラルネットワーク(GNN)を活用し、隣接ノード(すなわち、局所的なメッセージ伝達)からの情報伝搬と集約を行う。しかし、このようなグラフベースのアーキテクチャには表現力の限界があり、単一のサブグラフでは、異なるセッション間の複雑なアイテム遷移を適切に捉えるのではなく、順序依存性に過剰適合(overfitting)しやすいという問題がある。本研究では、Transformerとターゲットアテンション型GNNを組み合わせた新しい手法を提案する。これにより、より豊かな表現を学習可能となり、従来のシンプルなターゲットアテンション型GNNと比較して、実証的な性能向上が得られる。実験結果およびアブレーション分析の結果から、本手法は実世界のベンチマークデータセットにおいて既存手法と競合可能な性能を示し、グラフベースの仮説を改善することが明らかになった。コードは以下のURLにて公開されている:https://github.com/The-Learning-Machines/SBR