11日前

FinalMLP:CTR予測のための強化された二系統MLPモデル

Kelong Mao, Jieming Zhu, Liangcai Su, Guohao Cai, Yuru Li, Zhenhua Dong
FinalMLP:CTR予測のための強化された二系統MLPモデル
要約

クリックスルー率(CTR)予測は、オンライン広告およびレコメンデーションにおける基本的なタスクの一つである。多くの深層CTR予測モデルにおいて、マルチレイヤーパーセプトロン(MLP)は中心的な構成要素として用いられているが、従来のMLPネットワークのみを用いる場合、乗法的特徴相互作用を効率的に学習できないことが広く認識されている。この問題に対応するため、DeepFMやDCNなど、MLPネットワークと別の専用ネットワークを統合した二本流相互作用モデルが多数提案されてきた。これらのモデルでは、MLPストリームが特徴相互作用を暗黙的に学習する一方、既存の研究は補完的なストリームにおける明示的な特徴相互作用の強化に主眼を置いてきた。一方、本研究の実証的分析では、単に二つのMLPを組み合わせるだけの適切にチューニングされた二本流MLPモデルが、驚くべきほど良好な性能を発揮することを初めて発見した。この観察に基づき、我々は特徴ゲート(feature gating)層と相互作用集約(interaction aggregation)層を提案し、これらは容易に組み込むことで、より強化された二本流MLPモデルであるFinalMLPを構築可能となる。これにより、異なる特徴入力を適切に処理しつつ、二つのストリーム間でのストリームレベルの相互作用を効果的に統合することが可能となる。本研究では、4つの公開ベンチマークデータセットにおける評価および当社の産業システムにおけるオンラインA/Bテストを通じて、FinalMLPが多くの複雑な二本流CTRモデルを上回る性能を達成することを実証した。本研究のソースコードは、MindSpore/modelsにて公開予定である。

FinalMLP:CTR予測のための強化された二系統MLPモデル | 最新論文 | HyperAI超神経