11일 전

경량화된 시계열 자기주의 주의(Temporal Self-Attention)를 통한 위성 이미지 시계열 분류

Vivien Sainte Fare Garnot, Loic Landrieu
경량화된 시계열 자기주의 주의(Temporal Self-Attention)를 통한 위성 이미지 시계열 분류
초록

지구 관측 위성 데이터의 접근성과 정밀도가 높아짐에 따라 산업 및 국가 주체 모두에게 큰 기회가 열리고 있다. 그러나 이는 전 세계 규모에서 시계열 데이터를 효율적으로 처리할 수 있는 방법이 필요함을 의미한다. 최근 원격 감지 시계열 데이터를 분류하기 위해 다중 헤드(self-attention) 메커니즘을 활용한 연구에 기반하여, 본 연구에서는 시간적 주의 메커니즘 인코더(Temporal Attention Encoder)의 개선 방안을 제안한다. 제안하는 네트워크에서는 시간 입력의 채널들이 병렬로 작동하는 여러 컴팩트한 주의 헤드에 분배된다. 각 헤드는 매우 전문화된 시간적 특징을 추출한 후, 이를 하나의 표현으로 연결(concatenate)한다. 제안한 방법은 공개된 위성 이미지 데이터셋에서 다른 최첨단 시계열 분류 알고리즘들을 능가하는 성능을 보였으며, 파라미터 수가 현저히 적고 계산 복잡도도 낮아진다는 장점을 갖는다.

경량화된 시계열 자기주의 주의(Temporal Self-Attention)를 통한 위성 이미지 시계열 분류 | 최신 연구 논문 | HyperAI초신경