13일 전
액션 포인터 트랜스포머를 활용한 AMR 구문 분석
Jiawei Zhou, Tahira Naseem, Ramón Fernandez Astudillo, Radu Florian

초록
추상 의미 표현(AMR) 구문 분석은 대상 노드가 문장 토큰과 명시적으로 일치하지 않는 문장에서 그래프로의 예측 작업이다. 그러나 그래프 노드는 하나 이상의 문장 토큰에 기반하여 의미적으로 구성되므로, 암묵적인 일치 관계를 도출할 수 있다. 전이 기반 파서는 문장을 왼쪽에서 오른쪽으로 순차적으로 처리하며, 이에 따라 유도적 편향을 반영하기 위해 일치 관계를 사용하지만, 이로 인해 표현력이 제한된다. 본 연구에서는 문장에 대한 하드 어텐션과 대상 측 액션 포인터 메커니즘을 결합한 전이 기반 시스템을 제안한다. 이를 통해 소스 토큰과 노드 표현 간의 결합을 해소하고, 일치 관계 문제를 해결한다. 전이 과정과 포인터 메커니즘은 단일 트랜스포머 아키텍처 내에서 간단한 수정을 통해 모델링한다. 파서 상태와 그래프 구조 정보는 효율적으로 어텐션 헤드를 통해 인코딩된다. 제안한 액션 포인터 방식은 표현력을 향상시키며, 매우 유사한 조건에서 기존 최고의 전이 기반 AMR 파서에 비해 크게 향상된 성능(1.6점 향상)을 달성한다. 그래프 재분류 과정 없이도 단일 모델만으로 AMR 2.0에서 두 번째로 높은 Smatch 점수(81.8)를 기록하며, 실버 데이터와 앙상블 디코딩을 활용하면 점수가 83.4로 further 개선된다.