11일 전

컨텍스트 정보를 활용한 슬롯 채우기 개선

Amir Pouran Ben Veyseh, Franck Dernoncourt, Thien Huu Nguyen
컨텍스트 정보를 활용한 슬롯 채우기 개선
초록

슬롯 채우기(Slot Filling, SF)는 구어 언어 이해(Spoken Language Understanding, SLU)의 하위 작업 중 하나로, 주어진 자연어 발화에서 의미적 구성 요소를 추출하는 것을 목표로 한다. 이는 시퀀스 레이블링 문제로 정식화된다. 최근 들어, 이러한 작업에 있어서 맥락 정보가 매우 중요함이 밝혀졌다. 그러나 기존의 모델들은 맥락 정보를 제한적인 방식으로 활용하고 있다. 예를 들어, 자기 주의(self-attention)를 사용하는 방식이다. 이러한 방법들은 단어 표현에 대한 맥락의 영향과 단어 레이블에 대한 맥락의 영향을 구분하지 못한다. 본 논문에서는 이러한 문제를 해결하기 위해 맥락 정보를 두 가지 다른 수준—즉, 표현 수준과 작업 특화(레이블) 수준—에서 효과적으로 통합하는 새로운 방법을 제안한다. 제안한 모델은 SF에 대한 세 가지 벤치마크 데이터셋에서 실시한 광범위한 실험을 통해 뛰어난 성능을 입증하였으며, 세 가지 벤치마크 데이터셋 모두에서 SF 작업의 새로운 최고 성능(SOTA)을 달성하였다.

컨텍스트 정보를 활용한 슬롯 채우기 개선 | 최신 연구 논문 | HyperAI초신경