순차적 동역학은 최근 사용자가 수행한 행동을 기반으로 사용자의 활동 '맥락'을 포착하려는 많은 현대 추천 시스템의 핵심 특징입니다. 이러한 패턴을 포착하기 위해 두 가지 접근 방식이 널리 사용되고 있습니다: 마르코프 연쇄(Markov Chains, MCs)와 순환 신경망(Recurrent Neural Networks, RNNs). 마르코프 연쇄는 사용자의 다음 행동이 그들의 마지막(또는 최근 몇 번의) 행동만을 바탕으로 예측될 수 있다고 가정합니다. 반면에 RNN은 원칙적으로 장기적인 의미를 발견할 수 있는 능력을 가지고 있습니다. 일반적으로 MC 기반 방법은 모델의 간결성이 중요한 극히 희소한 데이터셋에서 가장 우수한 성능을 보이며, RNN은 더 높은 모델 복잡도가 허용되는 밀집된 데이터셋에서 더 나은 성능을 발휘합니다. 우리의 연구 목표는 이 두 가지 목표를 균형 있게 조화시키는 것입니다. 이를 위해 자기 주의 메커니즘(self-attention mechanism)을 기반으로 한 순차적 모델(SASRec)을 제안합니다. 이 모델은 RNN처럼 장기적인 의미를 포착하면서도, 마르코프 연쇄처럼 상대적으로 적은 수의 행동에 기반하여 예측을 수행합니다. 각 시간 단계에서 SASRec는 사용자의 행동 역사에서 '관련' 항목들을 식별하고, 이를 이용해 다음 항목을 예측하는 것을 목표로 합니다. 광범위한 경험적 연구 결과, 우리의 방법론이 희소한 데이터셋과 밀집된 데이터셋 모두에서 다양한 최신 순차적 모델(MC/CNN/RNN 기반 접근법 포함)보다 우수한 성능을 보임이 입증되었습니다. 또한, 주의력 가중치 시각화 결과는 우리 모델이 다양한 밀도를 가진 데이터셋을 적응적으로 처리하며 활동 시퀀스에서 의미 있는 패턴을 발견함을 보여줍니다.주요 용어:- Sequential dynamics (순차적 동역학)- Recommender systems (추천 시스템)- Context (맥락)- Markov Chains (마르코프 연쇄)- Recurrent Neural Networks (RNN) (순환 신경망)- Model parsimony (모델의 간결성)- Self-attention mechanism (자기 주의 메커니즘)- SASRec (SASRec)- Attention weights (주의력 가중치)