2달 전

원격 감독 관계 추출을 위한 단어 및 개체 기반 주의력 향상

Sharmistha Jat; Siddhesh Khandelwal; Partha Talukdar
원격 감독 관계 추출을 위한 단어 및 개체 기반 주의력 향상
초록

관계 추출은 주어진 문장에서 두 개체 간의 관계를 분류하는 문제입니다. 원격 감독(Distant Supervision, DS)은 제한된 감독으로부터 관계 추출기를 개발하기 위한 인기 있는 기술입니다. 우리는 원격 감독 관계 추출 설정에서 대부분의 문장이 매우 길고, 더 나은 문장 표현을 위해 단어 주의(word attention)가 유용할 수 있음을 지적합니다. 본 논문에서의 우리의 기여는 세 가지로 요약됩니다.첫째, 우리는 원격 감독 관계 추출을 위해 두 가지 새로운 단어 주의 모델을 제안합니다: (1) 양방향 게이트 순환 유닛(Bi-directional Gated Recurrent Unit, Bi-GRU) 기반 단어 주의 모델(BGWA), (2) 개체 중심 주의 모델(Entity-centric Attention, EA), 그리고 (3) 가중 투표 방법을 사용하여 여러 보완적인 모델을 결합한 결합 모델(Combination Model)입니다. 이 결합 모델은 개선된 관계 추출을 위해 설계되었습니다.둘째, 우리는 GDS라는 새로운 원격 감독 데이터셋을 소개합니다. GDS는 모든 이전 원격 감독 벤치마크 데이터셋에 존재하는 테스트 데이터 노이즈를 제거하여 신뢰성 있는 자동 평가가 가능하도록 합니다.셋째, 다수의 실제 데이터셋에 대한 광범위한 실험을 통해 제안된 방법들의 효과성을 입증합니다.

원격 감독 관계 추출을 위한 단어 및 개체 기반 주의력 향상 | 최신 연구 논문 | HyperAI초신경