초록
시계열, 비디오 또는 텍스트와 같은 순차 데이터는 원소들의 순서 구조가 복잡한 종속성을 유발하기 때문에 분석이 어려울 수 있다. 이러한 문제의 핵심은 비가환성(non-commutativity)에 있다. 즉, 시퀀스의 원소들을 재정렬하면 그 의미가 완전히 달라질 수 있다는 점이다. 우리는 이러한 종속성을 포착하기 위해 고전적인 수학적 구조인 텐서 대수(tensor algebra)를 활용한다. 고차원 텐서의 내재된 계산 복잡성을 해결하기 위해, 낮은 랭크의 텐서 투영(projection)을 조합하는 방식을 사용한다. 이를 통해 신경망에 대한 모듈화되고 확장 가능한 구성 요소를 제공하며, 다변량 시계열 분류 및 비디오 생성 모델과 같은 표준 벤치마크에서 최신 기술 수준의 성능을 달성할 수 있다.