17일 전

비지도 잠재 트리 유도를 위한 딥 인사이드아웃사이드 재귀 자동인코더

{Andrew McCallum, Patrick Verga, Mohit Yadav, Andrew Drozdov, Mohit Iyyer}
비지도 잠재 트리 유도를 위한 딥 인사이드아웃사이드 재귀 자동인코더
초록

우리는 깊이 있는 내부-외부 재귀 자동에코더(DIORA)를 소개한다. 이는 유도된 트리 내의 구성 요소에 대한 표현을 동시에 학습하면서, 구문 구조를 완전히 비지도 방식으로 탐색하는 방법이다. 본 방법은 입력 문장의 각 단어를 문장의 나머지 부분에 조건부로 예측한다. 학습 과정에서는 문장 위의 모든 가능한 이진 트리를 고려하기 위해 동적 프로그래밍을 사용하며, 추론 시에는 최고 점수를 가진 구문 분석을 추출하기 위해 CKY 알고리즘을 활용한다. DIORA는 기준 WSJ 데이터셋에서 비지도 이진 구성 문법 분석에 대해 이전에 보고된 결과보다 우수한 성능을 나타냈다.