11일 전
XCrossNet: 클릭률 예측을 위한 특성 구조 지향 학습
Runlong Yu, Yuyang Ye, Qi Liu, Zihan Wang, Chunfeng Yang, Yucheng Hu, Enhong Chen

초록
클릭률(Click-Through Rate, CTR) 예측은 현재 상용 추천 시스템에서 핵심적인 과제이다. CTR 예측 분야의 주요 연구 방향인 특성 크로스(feature crossing)는 예측 성능을 향상시키는 유망한 방식을 보여주고 있다.다양한 모델들이 수동적인 특성 공학 없이 특성 간 상호작용을 학습할 수는 있지만, 서로 다른 특성 구조에 대해 개별적으로 표현을 학습하려는 시도는 거의 이루어지지 않는다. 특히 이러한 모델들은 주로 희소 특성 간의 교차를 모델링하는 데 집중하며, 밀도 높은 특성 간의 교차를 특별히 표현하는 데는 소홀하다.이러한 문제를 해결하고자, 우리는 밀도 높은 특성과 희소 특성 간의 상호작용을 명시적으로 학습하는 것을 목표로 하는 새로운 극한 크로스 네트워크(Extreme Cross Network, XCrossNet)를 제안한다.XCrossNet은 특성 구조 중심의 모델로서 더 표현력이 풍부한 표현과 더 정밀한 CTR 예측을 가능하게 하며, 명시적이고 해석 가능한 동시에 시간 효율적이며 구현이 간편하다는 장점을 지닌다.Criteo Kaggle 데이터셋을 대상으로 수행한 실험 결과, XCrossNet은 기존 최고 성능 모델들에 비해 성능과 효율성 측면에서 두드러진 개선을 보였다.