2달 전

문법 유도를 위한 복합 확률적 문맥 자유 문법

Yoon Kim; Chris Dyer; Alexander M. Rush
문법 유도를 위한 복합 확률적 문맥 자유 문법
초록

우리는 문장이 복합 확률적 문맥 자유 문법에 의해 생성되는 것으로 모델링하는 문법 유도 문제의 형식화를 연구합니다. 전통적인 단일 확률적 문법을 학습하는 접근 방식과 달리, 우리의 문법은 규칙 확률이 문장별 연속 잠재 변수에 의해 조절되며, 이는 전통적인 문맥 자유 가정을 넘어서는 주변 의존성을 유발합니다. 이 문법에서의 추론은 축소 변분 추론(collapsed variational inference)을 통해 수행되며, 여기서 연속 변수에 대한 일반화된 변분 후방확률(amortized variational posterior)이 설정되고, 동적 프로그래밍을 사용하여 잠재 트리가 주변화됩니다. 영어와 중국어를 대상으로 한 실험 결과, 비지도 해석 평가에서 최근 최신 방법들과 비교하여 우리 접근 방식의 효과성이 입증되었습니다.