2ヶ月前

クリックスルー率予測のための深層興味ネットワーク

Guorui Zhou; Chengru Song; Xiaoqiang Zhu; Ying Fan; Han Zhu; Xiao Ma; Yanghui Yan; Junqi Jin; Han Li; Kun Gai
クリックスルー率予測のための深層興味ネットワーク
要約

クリックスルー率予測は、オンライン広告などの産業応用において重要な課題です。最近では、深層学習に基づくモデルが提案されており、これらは類似の埋め込み&多層パーセプトロン(Embedding&MLP)パラダイムに従っています。これらの手法では、大規模な疎な入力特徴量をまず低次元の埋め込みベクトルにマッピングし、グループ単位で固定長ベクトルに変換した後、最終的に連結して多層パーセプトロン(MLP)に入力し、特徴量間の非線形関係を学習します。この方法により、ユーザー特徴量は候補となる広告に関わらず固定長表現ベクトルに圧縮されます。しかし、固定長ベクトルの使用はボトルネックとなり、豊富な履歴行動からユーザーの多様な興味を効果的に捉えることが困難になります。本論文では、この課題に対処する新しいモデルであるディープ・インタレスト・ネットワーク(Deep Interest Network, DIN)を提案します。DINは局所活性化ユニットを設計することで、特定の広告に対するユーザーの興味表現を履歴行動から適応的に学習します。この表現ベクトルは異なる広告によって変動し、モデルの表現能力を大幅に向上させます。さらに、ミニバッチ認識正則化とデータ適応型活性化関数という2つの技術を開発しました。これらの技術は、数億以上のパラメータを持つ産業界の深層ネットワークの訓練に役立ちます。2つの公開データセットおよびアリババが実際の運用で使用している20億件を超えるサンプルを持つデータセットでの実験結果は、提案手法の有効性を示しており、最先端の手法と比較して優れた性能を達成しています。現在、DINはアリババのオンラインディスプレイ広告システムに成功裏に導入され、主要なトラフィックを対象としています。

クリックスルー率予測のための深層興味ネットワーク | 最新論文 | HyperAI超神経