2달 전

극세분화된 실체 유형화를 위한 라벨 관계적 귀납 편향 부과

Wenhan Xiong; Jiawei Wu; Deren Lei; Mo Yu; Shiyu Chang; Xiaoxiao Guo; William Yang Wang
극세분화된 실체 유형화를 위한 라벨 관계적 귀납 편향 부과
초록

기존의 개체 유형화 시스템은 일반적으로 지식 기반(KB) 스키마가 제공하는 유형 계층 구조를 활용하여 라벨 간의 상관 관계를 모델링하고 전체 성능을 향상시킵니다. 그러나 이러한 기술들은 유형 집합이 KB 스키마에 제한되지 않고 수많은 자유 형식의 유형을 포함하는 더 개방적이고 실용적인 시나리오에서는 직접 적용하기 어렵습니다. 수동으로 주석화된 라벨 구조에 접근할 수 없는 상황에서 기본적인 라벨 상관 관계를 모델링하기 위해, 우리는 그래프 전파 계층으로 표현되는 새로운 라벨-관계적 귀납 편향을 소개합니다. 이 방법은 전역적인 라벨 동시 발생 통계와 단어 수준의 유사성을 효과적으로 인코딩합니다.10,000개 이상의 자유 형식 유형을 포함하는 대규모 데이터셋에서, 그래프 강화 모델과 어텐션 기반 매칭 모듈을 결합한 모델은 고도의 정밀도를 유지하면서 훨씬 더 높은 재현율 점수를 달성할 수 있습니다. 구체적으로, 이 모델은 상대적으로 15.3%의 F1 스코어 개선을 이루어냈으며 출력 결과에서도 불일치가 덜 나타났습니다. 또한, 제안된 그래프 계층의 간단한 수정이 KB 스키마 유형만을 포함하는 전통적이고 널리 검증된 데이터셋에서도 성능 향상을 가져올 수 있음을 보여주었습니다.

극세분화된 실체 유형화를 위한 라벨 관계적 귀납 편향 부과 | 최신 연구 논문 | HyperAI초신경