7일 전

TiM4Rec: 시간 인식 구조적 상태 공간 이중성 모델 기반 효율적인 순차 추천 모델

Hao Fan, Mengyi Zhu, Yanrong Hu, Hailin Feng, Zhijie He, Hongjiu Liu, Qingyang Liu
TiM4Rec: 시간 인식 구조적 상태 공간 이중성 모델 기반 효율적인 순차 추천 모델
초록

순차적 추천(Sequential Recommendation) 모델링 패러다임이 트랜스포머에서 Mamba 아키텍처로 전환되고 있으며, 이는 두 세대로 나뉜다. 첫 번째 세대인 Mamba1은 상태공간 모델(State Space Model, SSM) 기반이며, 두 번째 세대인 Mamba2는 상태공간 이중성(State Space Duality, SSD) 기반이다. SSM에 비해 SSD는 더 뛰어난 계산 효율성을 제공하지만, 특히 이러한 작업에 핵심적인 저차원 환경에서 순차적 추천 과제에서 성능 저하를 겪는다는 단점이 있다. 시간 인지(time-aware) 증강 기법이 성능 저하를 완화하기 위해 일반적으로 활용되고 있음을 고려할 때, 본 연구의 분석에 따르면 SSD의 성능 저하 역시 시간 인지 기법의 메커니즘을 활용함으로써 근본적으로 보완될 수 있음을 밝혀냈다. 따라서 우리는 SSD 프레임워크에 시간 인지 능력을 통합하여 이러한 성능 문제를 해결하고자 한다. 그러나 기존의 TiSASRec 기반 시간 인지 기법을 SSD에 통합하는 과정에서는 다음과 같은 두 가지 도전 과제가 존재한다: 1) 트랜스포머 기반 메커니즘과 SSD 아키텍처 간의 복잡한 통합 문제, 2) 시간 차이 모델링을 위한 차원 확장이 초래하는 계산 효율성 저하. 이러한 문제를 극복하기 위해, 우리는 시간 인지 능력을 효율적으로 통합할 수 있는 새로운 ‘시간 인지 구조적 마스크 행렬(Time-aware Structured Masked Matrix)’을 제안한다. 이 기반으로, 저차원 SSD 환경에서도 성능 저하를 완화하면서도 계산 효율성을 유지하는 순차적 추천을 위한 ‘시간 인지 Mamba(TiM4Rec)’를 제안한다. 본 연구는 Mamba 아키텍처에 특화된 시간 인지 증강 기법이 순차적 추천 분야에 처음으로 적용된 사례이다. 세 개의 실제 데이터셋을 대상으로 수행한 광범위한 실험을 통해 제안한 방법의 우수성을 입증하였다. 본 모델의 코드는 https://github.com/AlwaysFHao/TiM4Rec 에서 공개되어 있다.

TiM4Rec: 시간 인식 구조적 상태 공간 이중성 모델 기반 효율적인 순차 추천 모델 | 최신 연구 논문 | HyperAI초신경