초록
양방향 LSTM(장단기 기억 신경망)은 텍스트 표현을 위한 강력한 도구입니다. 그러나 순차적인 특성으로 인해 다양한 제약이 있다는 점이 밝혀져 왔습니다. 본 연구에서는 각 단어에 대해 병렬 상태를 갖는 대체 LSTM 구조를 조사합니다. 반복 단계는 시퀀스의 단어를 점진적으로 읽는 것이 아니라, 단어 간에 simultaneous(동시적)로 국소 및 전역 정보 교환을 수행하는 데 사용됩니다. 다양한 분류 및 시퀀스 라벨링 벤치마크에서의 결과는 제안된 모델이 강력한 표현 능력을 가지고 있으며, 유사한 매개변수 수를 가진 쌓인 양방향 LSTM 모델과 비교하여 매우 경쟁력 있는 성능을 보임을 나타냅니다.