17일 전

트랜스포머 네트워크를 활용한 경로 예측

Francesco Giuliari, Irtiza Hasan, Marco Cristani, Fabio Galasso
트랜스포머 네트워크를 활용한 경로 예측
초록

최근 사람의 움직임을 예측하는 데 있어 대부분의 성공 사례는 LSTM 모델에 기반하고 있으며, 최근의 주요 진전은 사람 간의 사회적 상호작용과 사람과 장면 간의 상호작용을 모델링함으로써 이루어졌다. 우리는 LSTM 모델의 사용에 의문을 제기하고, 궤적 예측에 대해 트랜스포머 네트워크의 새로운 활용을 제안한다. 이는 LSTM의 순차적이고 단계적인 처리 방식에서 벗어나, 오직 어텐션 기반의 메모리 메커니즘에 기반한 근본적인 전환을 의미한다. 특히 우리는 원본 트랜스포머 네트워크(TF)와 자연어 처리 작업에서 최신 기술 수준을 기록하고 있는 더 큰 양방향 트랜스포머(BERT)를 고려한다. 본 연구에서 제안하는 트랜스포머 모델은 장면 내 개별 사람의 궤적을 예측한다. 이러한 모델은 인간-인간 간 복잡한 상호작용이나 장면과의 상호작용 항목을 포함하지 않는 ‘단순한’ 모델이다. 특히, 부가적인 기법 없이도 TF 모델이 가장 크고 도전적인 궤적 예측 벤치마크인 TrajNet에서 최고의 성능을 기록하였다. 또한, 여러 가능성이 있는 미래 궤적을 예측하는 확장된 모델은 ETH + UCY의 5개 데이터셋에서 더 복잡한 엔지니어링 기법과 비슷한 성능을 보였다. 마지막으로, 실제 센서 데이터에서 발생할 수 있는 관측값 누락 상황에도 트랜스포머 모델이 효과적으로 대응할 수 있음을 보여주었다. 코드는 다음 링크에서 제공된다: https://github.com/FGiuliari/Trajectory-Transformer.

트랜스포머 네트워크를 활용한 경로 예측 | 최신 연구 논문 | HyperAI초신경