초록
최근의 공참조 해결 모델은 단어 구간(워드 스팬) 간의 공참조 링크를 찾기 위해 스팬 표현에 크게 의존하고 있다. 텍스트 길이가 $n$일 때 스팬의 수는 $O(n^2)$이고, 가능한 링크 수는 $O(n^4)$에 이르기 때문에, 이 접근 방식이 계산적으로 실현 가능하게 하기 위해 다양한 절단 기법(프루닝 기법)이 필요하다. 본 연구에서는 대신 단어 간의 공참조 링크를 고려한 후, 이후에 단어 구간을 재구성하는 방식을 제안한다. 이는 공참조 모델의 복잡도를 $O(n^2)$로 감소시켜, 모든 가능한 언급을 절단 없이 고려할 수 있게 한다. 또한 이러한 변화를 통해 SpanBERT가 공참조 해결에 있어서 RoBERTa에 비해 크게 뒤처지는 것을 실험적으로 입증하였다. 높은 효율성을 유지하면서도, 본 모델은 OntoNotes 벤치마크에서 최근의 공참조 해결 시스템들과 경쟁 가능한 성능을 보였다.