11일 전

변분 순차 계획을 통한 데이터 텍스트 생성

Ratish Puduppully, Yao Fu, Mirella Lapata
변분 순차 계획을 통한 데이터 텍스트 생성
초록

데이터에서 텍스트 생성(task of data-to-text generation)은 비언어적 입력에서 텍스트 출력을 생성하는 것을 목표로 하는 과제이다. 본 연구는 다중 단락으로 구성된 장문 텍스트 생성에 초점을 맞추며, 고수준 정보를 일관되고 의미 있는 방식으로 조직화하는 기능을 담당하는 계획 수립(planning) 구성 요소를 갖춘 신경망 모델을 제안한다. 우리는 구조적 변분 모델을 활용해 잠재적 계획(latent plans)을 순차적으로 추론하면서, 계획 수립과 텍스트 생성 단계를 교차하여 진행한다. 생성된 텍스트는 이전의 변분 결정과 이미 생성된 텍스트에 조건부로 기반하여 생성된다. 두 가지 데이터-텍스트 벤치마크(RotoWire 및 MLB)에서 수행한 실험 결과, 제안하는 모델은 강력한 기준 모델들을 능가하며, 제한된 학습 데이터(예: 수백 개의 인스턴스) 상황에서도 샘플 효율적임을 입증하였다.

변분 순차 계획을 통한 데이터 텍스트 생성 | 최신 연구 논문 | HyperAI초신경