DCN V2：改良されたDeep & Cross NetworkおよびWebスケール学習ランクシステムにおける実践的教訓

効果的な特徴交差（feature cross）の学習は、レコメンデーションシステムを構築する上で鍵となる要素である。しかし、スパースかつ大規模な特徴空間では、効果的な交差を特定するために膨大な探索が必要となる。これに対して、Deep & Cross Network（DCN）は、限定次数の予測的特徴相互作用を自動的かつ効率的に学習する手法として提案された。しかしながら、数十億もの学習サンプルを扱うウェブスケールのトラフィックを処理するモデルにおいて、DCNのクロスネットワーク部はより予測力の高い特徴相互作用の学習において表現力に限界が見られた。こうした課題にもかかわらず、多くの研究進展がなされているにもかかわらず、実運用における多くのディープラーニングモデルは、依然として効率性に欠ける従来型の順伝播ニューラルネットワークを用いて特徴交差を学習している。DCNおよび既存の特徴相互作用学習手法の利点と欠点を踏まえ、本研究では大規模産業環境においてより実用的な形でDCNを活用できるよう、改良されたフレームワーク「DCN-V2」を提案する。広範なハイパーパラメータ探索とモデルチューニングを含む包括的な実験において、DCN-V2は主流のベンチマークデータセットにおいて、すべての最先端アルゴリズムを上回る性能を示した。改良されたDCN-V2は、表現力が向上している一方で、低ランクアーキテクチャとの組み合わせにより、特徴相互作用学習においてコスト効率も維持している。DCN-V2は構造がシンプルであり、容易に構成要素として採用可能であり、Googleにおける多数のウェブスケール学習ランクシステムにおいて、オフライン精度およびオンラインビジネス指標において顕著な向上を実現している。