2달 전
ReasTAP: 사전 학습 과정에서 합성 추론 예제를 통해 테이블 추론 능력 주입
Yilun Zhao; Linyong Nan; Zhenting Qi; Rui Zhang; Dragomir Radev

초록
표 형식 데이터에 대한 추론은 표 구조 이해와 다양한 표 추론 기술을 요구합니다. 현재의 표 전용 아키텍처와 사전 학습 방법을 사용하는 모델들은 표 구조 이해에는 우수한 성능을 보이지만, 다양한 표 추론 기술이 필요한 작업에서는 여전히 어려움을 겪고 있습니다. 본 연구에서는 복잡한 표 전용 아키텍처 설계 없이도 고급 표 추론 기술을 모델에 주입할 수 있음을 보이는 ReasTAP를 개발하였습니다. 우리는 숫자 연산, 시간 비교, 그리고 결합 등 7가지의 표 추론 기술을 정의하였으며, 각각의 추론 기술은 샘플링된 템플릿에 따라 반구조화된 표에서 질문을 생성하는 하나의 예제 생성기와 연결됩니다. 우리는 표 사전 학습 작업을 시퀀스 생성 작업으로 모델링하고, ReasTAP를 합성 예제에 대한 정확한 답변을 생성하도록 사전 학습하였습니다. ReasTAP는 세 가지 다운스트림 작업(1) WikiSQL과 WTQ를 통한 표 질문 응답; (2) TabFact를 통한 표 사실 검증; (3) LogicNLG를 통한 신뢰성 있는 표-텍스트 변환)을 포함하는 네 가지 벤치마크에서 평가되었습니다. 실험 결과는 ReasTAP가 모든 벤치마크에서 새로운 최고 수준의 성능을 달성했으며, 저자원 환경에서도 상당한 개선 효과를 보였음을 입증하였습니다. 우리의 코드는 공개적으로 https://github.com/Yale-LILY/ReasTAP에서 이용 가능합니다.