초록
우리는 공유 참조 해결을 위한 완전 미분 가능한 고차 추론의 근사법을 소개합니다. 우리의 접근 방식은 스패너 순위 구조에서 얻은 선행항 분포를 주의 메커니즘으로 사용하여 스패너 표현을 반복적으로 정교화합니다. 이는 모델이 예측된 클러스터에서 여러 단계를 부드럽게 고려할 수 있게 합니다. 이러한 반복 과정의 계산 비용을 줄이기 위해, 우리는 정확도가 낮지만 효율성이 높은 이차선형 요인(less accurate but more efficient bilinear factor)을 통합하는 거칠기-세밀기 접근 방식을 제안합니다. 이 방법은 더 공격적인 프루닝을 가능하게 하면서도 정확도를 저하시키지 않습니다. 기존의 최신 스패너 순위 접근 방식과 비교했을 때, 우리의 모델은 영어 OntoNotes 벤치마크에서 정확도를 크게 향상시키면서 동시에 훨씬 더 효율적인 계산 성능을 보입니다.