11일 전

STEC: CTR 예측을 위한 투명한 Transformer 기반 인코더

Serdarcan Dilbaz, Hasan Saribas
STEC: CTR 예측을 위한 투명한 Transformer 기반 인코더
초록

클릭률(Click-Through Rate, CTR) 예측은 온라인 광고 및 추천 시스템에서 핵심적인 위치를 차지하며, CTR 예측 성능은 사용자 만족도와 기업의 수익 창출에 직접적인 영향을 미친다. 그럼에도 불구하고 CTR 예측은 여전히 활발한 연구 주제로 남아 있다. 이는 사용자의 희소하고 고차원적인 특성 기반으로 선호도를 정확히 모델링해야 하며, 다양한 특성 간의 고차 상호작용이 결과에 영향을 미칠 수 있기 때문이다.기존의 대부분의 CTR 예측 모델은 단일한 특성 융합 및 상호작용 학습 전략에 의존해왔다. 다수의 상호작용 모델링 전략을 활용한 일부 모델들도 각 상호작용을 독립적으로 처리하는 방식을 취했다. 본 논문에서는 이러한 다양한 상호작용 학습 방식의 장점을 하나의 통합 아키텍처 내에서 효과적으로 활용할 수 있는 새로운 모델인 STEC을 제안한다. 또한, 본 모델은 서로 다른 차수의 상호작용 간에 잔차 연결(Residual Connection)을 도입하여, 저차원 상호작용이 예측 결과에 직접적인 영향을 미칠 수 있도록 함으로써 성능을 향상시켰다. 네 개의 실제 데이터셋을 대상으로 실시한 광범위한 실험을 통해, STEC이 더 뛰어난 표현 능력을 바탕으로 기존 최고 수준의 CTR 예측 기법들을 모두 상회함을 입증하였다.

STEC: CTR 예측을 위한 투명한 Transformer 기반 인코더 | 최신 연구 논문 | HyperAI초신경