2달 전

다중 분야 범주형 데이터에 대한 딥 러닝: 사용자 반응 예측 사례 연구

Weinan Zhang; Tianming Du; Jun Wang
다중 분야 범주형 데이터에 대한 딥 러닝: 사용자 반응 예측 사례 연구
초록

사용자 반응 예측, 예를 들어 클릭률과 전환율은 웹 검색, 개인화 추천, 온라인 광고 등 많은 웹 애플리케이션에서 중요한 역할을 합니다. 이미지와 오디오 영역에서 일반적으로 발견되는 연속적인 원시 특성과는 달리, 웹 공간의 입력 특성은 항상 다중 필드로 구성되며 대부분 이산적이고 범주적이며, 그들 간의 의존 관계는 잘 알려져 있지 않습니다. 주요 사용자 반응 예측 모델들은 선형 모델에 제한하거나 고차 조합 특성을 수동으로 구축해야 하는 경우가 많습니다. 전자는 특성 상호작용을 탐색하는 능력을 잃지만, 후자는 큰 특성 공간에서 중량적인 계산을 초래합니다. 이러한 문제를 해결하기 위해 우리는 범주적 특성 상호작용에서 효과적인 패턴을 자동으로 학습하고 사용자의 광고 클릭을 예측하기 위한 두 가지 새로운 모델을 제안합니다. 우리의 DNNs(Deep Neural Networks)가 효율적으로 작동하도록 하기 위해, 인수 분해 머신(Factorisation Machines, FMs), 제한 볼츠만 머신(Restricted Boltzmann Machines, RBMs), 노이즈 제거 오토인코더(Denoising Auto-Encoders, DAEs)라는 세 가지 특성 변환 방법을 활용하는 것을 제안합니다. 본 논문에서는 우리의 모델 구조와 효율적인 학습 알고리즘을 소개하며, 실제 데이터를 이용한 대규모 실험 결과가 주요 최신 모델들보다 우수함을 보여줍니다.

다중 분야 범주형 데이터에 대한 딥 러닝: 사용자 반응 예측 사례 연구 | 최신 연구 논문 | HyperAI초신경