대수적 재조합을 통한 조합적 일반화 학습

신경 시퀀스 모델은 의미 구문 분석 과제에서 제한된 조합적 일반화 능력을 보인다. 조합적 일반화는 대수적 재조합(algebraic recombination)을 요구하며, 이는 구조화된 표현을 재귀적으로 동적으로 재조합하는 것을 의미한다. 그러나 기존 대부분의 연구는 주로 어휘 단위의 재조합에 집중하였으며, 이는 대수적 재조합의 중요한 부분이지만 충분한 조건은 아니다. 본 논문에서는 조합적 일반화를 위한 대수적 재조합을 학습하기 위한 엔드투엔드 신경 모델인 LeAR을 제안한다. 핵심 아이디어는 의미 구문 분석 과제를 은닉 구문 대수(latent syntactic algebra)와 의미 대수(semantic algebra) 사이의 동형사상(homomorphism)으로 모델링함으로써, 대수적 재조합을 유도하는 것이다. 구체적으로, 은닉 구문을 생성하는 Composer와 의미 연산을 할당하는 Interpreter라는 두 가지 모듈을 함께 학습한다. 두 가지 실제적이고 종합적인 조합적 일반화 벤치마크에서 수행한 실험을 통해 제안 모델의 효과성을 입증하였다. 소스 코드는 공개적으로 제공되며, https://github.com/microsoft/ContextualSP 에서 확인할 수 있다.