2달 전

메타 학습을 통한 자연어에서 구조화된 쿼리 생성

Po-Sen Huang; Chenglong Wang; Rishabh Singh; Wen-tau Yih; Xiaodong He
메타 학습을 통한 자연어에서 구조화된 쿼리 생성
초록

전통적인 지도 학습에서 모델은 모든 훈련 예제에 맞춰 훈련됩니다. 그러나 단일화된 모델을 사용하는 것이 항상 최선의 전략은 아닐 수 있습니다. 예제들이 매우 다양할 수 있기 때문입니다. 본 연구에서는 각 예제를 고유한 의사 작업(pseudo-task)으로 취급하여, 도메인 종속적 관련성 함수(domain-dependent relevance function)의 도움으로 원래의 학습 문제를 소수 샷 메타 학습(few-shot meta-learning) 시나리오로 축소시키는 다른 학습 프로토콜을 탐구합니다. WikiSQL 데이터셋에서 평가한 결과, 제안된 접근 방식은 더 빠른 수렴을 보이며, 비메타 학습(non-meta-learning) 대응모델보다 절대 정확도가 1.1%~5.4% 향상되었습니다.

메타 학습을 통한 자연어에서 구조화된 쿼리 생성 | 최신 연구 논문 | HyperAI초신경