Command Palette

Search for a command to run...

4ヶ月前

Deep Interaction Machine:高次元特徴相互作用を扱うシンプルでありながら有効なモデル

{Liang Wang Shu Wu Haoli Zhang Qiang Liu Zhaocheng Liu Feng Yu}

要約

クリック率(CTR)予測は、推薦システムやオンライン広告など、さまざまなオンラインアプリケーションにおいて重要なタスクである。CTR予測の目的は、高次元の入力特徴量を用いてユーザーのクリック行動の発生確率を予測することである。手動による特徴量エンジニアリングを回避するため、CTR予測の核心課題は入力特徴量間の自動的相互作用のモデル化にある。因子分解機(Factorization Machine, FM)は、2次元特徴量相互作用を効果的にモデル化する手法として広く用いられている。近年、FMはxDeepFMや高次元因子分解機(Higher-Order Factorization Machine, HOFM)などにより、より高次の相互作用を扱うように拡張されている。しかし、これらの手法はいずれも計算複雑度が高く、反復計算を要するため、時間およびメモリの消費が著しく大きいという課題を抱えている。本研究では、ニュートンの恒等式に基づき、任意次数のFMを累乗和(power sums)の形で表現することにより、上記の問題を克服する。その結果、高次元FMの効率的かつ正確な実装である新たな相互作用機械(Interaction Machine, IM)モデルを提案する。IMは、相互作用の次数および特徴量フィールド数に対して線形に時間計算量が増加するという優れたスケーラビリティを有しており、任意次数の特徴量相互作用を非常にシンプルな方法で実現できる。さらに、IMを深層ニューラルネットワークと組み合わせ、DeepIMモデルを構築した。その結果、xDeepFMと同等あるいはより優れた性能を達成しつつ、より高い効率性を実現した。実世界の2つのデータセットを用いた実験により、IMおよびDeepIMの有効性と効率性が強く裏付けられた。

ベンチマーク

ベンチマーク方法論指標
click-through-rate-prediction-on-kkboxDeepIM
AUC: 0.8537

AI で AI を構築

アイデアからローンチまで — 無料の AI 共同コーディング、すぐに使える環境、最適価格の GPU で AI 開発を加速。

AI 共同コーディング
すぐに使える GPU
最適価格
今すぐ始める

Hyper Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています