1ヶ月前

自己注意型シーケンシャル推薦

Wang-Cheng Kang; Julian McAuley
自己注意型シーケンシャル推薦
要約

連続的な動態は、現代の多くの推薦システムの重要な特徴であり、ユーザーの最近の行動に基づいてユーザー活動の「コンテキスト」を捉えることを目指しています。このようなパターンを捉えるために、2つのアプローチが広く採用されています:マルコフ連鎖(Markov Chains: MCs)と再帰型ニューラルネットワーク(Recurrent Neural Networks: RNNs)。マルコフ連鎖は、ユーザーの次の行動が直近の(または直近の数回の)行動に基づいて予測可能であるという前提を持っています。一方、RNNは原理的には長期的な意味論を解明することが可能です。一般的に、MCベースの手法はモデルの簡素性が重要となる非常に疎なデータセットで最良の性能を発揮します。一方、RNNはより複雑なモデルを許容できる密度が高いデータセットで優れた性能を示します。本研究では、これらの2つの目標をバランスよく達成するために、自己注意機構に基づく連続モデル(Self-Attention based Sequential Recommender: SASRec)を提案します。SASRecは長期的な意味論(RNNのように)を捉えつつも、注意メカニズムを使用することで比較的少ない行動(MCのように)に基づいて予測を行うことができます。各時間ステップにおいて、SASRecはユーザーの行動履歴から「関連する」アイテムを選別し、次に選ばれるアイテムを予測することを目指しています。広範な実験結果により、当手法が疎なデータセットおよび密度が高いデータセットにおいて各種最先端の連続モデル(MC/CNN/RNNベースの手法を含む)よりも優れた性能を発揮することが示されました。さらに、当モデルは同等のCNN/RNNベースのモデルと比較して1桁以上の効率性を持つことが確認されています。注意重みに関する可視化もまた、当モデルがさまざまな密度を持つデータセットに対して適応的に対処し、活動シーケンスにおける意味のあるパターンを見出していることを示しています。

自己注意型シーケンシャル推薦 | 最新論文 | HyperAI超神経