16일 전

적응형 인수분해 네트워크: 적응형 순서 특성 상호작용 학습

Weiyu Cheng, Yanyan Shen, Linpeng Huang
적응형 인수분해 네트워크: 적응형 순서 특성 상호작용 학습
초록

다양한 인수분해 기반 방법들이 예측 모델의 성능을 향상시키기 위해 이차 또는 고차 교차 특징(또는 고차 교차 상호작용)을 활용하기 위해 제안되어 왔다. 이러한 방법들은 사전에 정의된 최대 차수 내에서 모든 교차 특징을 나열한 후, 모델 학습을 통해 유용한 특징 상호작용을 식별하는 방식을 채택한다. 그러나 이러한 접근법은 두 가지 주요한 한계를 가지고 있다. 첫째, 고차 교차 특징의 표현력과 계산 비용 사이에서 균형을 맞추는 선택이 필요하여, 최적의 예측 성능을 달성하기 어렵다. 둘째, 관련 없는 교차 특징까지 모두 나열하게 되어 노이즈가 포함된 특징 조합이 모델에 영향을 미쳐 성능 저하를 초래할 수 있다. 본 연구에서는 데이터로부터 임의의 차수의 교차 특징을 적응적으로 학습하는 새로운 모델인 적응형 인수분해 네트워크(Adaptive Factorization Network, AFN)를 제안한다. AFN의 핵심은 특징 조합 내 각 특징의 지수(power)를 학습 가능한 계수로 변환하는 로그 변환 계층(logarithmic transformation layer)이다. 네 개의 실제 데이터셋에 대한 실험 결과를 통해 AFN이 최신 기술 대비 뛰어난 예측 성능을 보임을 입증하였다.