딥 세마틱 롤 레이블링: 무엇이 효과적인가 그리고 앞으로의 방향성

우리는 의미 역할 태깅(SRL)을 위한 새로운 딥러닝 모델을 제안하며, 기존 최고 성능을 크게 개선함과 동시에 그 성능의 강점과 한계를 상세히 분석한다. 우리는 제약된 디코딩을 적용한 깊은 하이웨이 BiLSTM 아키텍처를 사용하였으며, 초기화 및 정규화에 관한 최근 최선의 실천 방법들을 고려하였다. 8층 앙상블 모델은 CoNLL 2005 테스트 세트에서 83.2의 F1 점수, CoNLL 2012에서는 83.4의 F1 점수를 기록하여 기존 최고 성능 대비 약 10%의 상대 오류 감소를 달성하였다. 이러한 성능 향상에 대한 광범위한 실증적 분석을 통해 (1) 깊은 모델이 장거리 종속 관계를 효과적으로 복원할 수 있지만, 여전히 놀라울 정도로 명백한 오류를 범할 수 있으며, (2) 문법 구문 분석기의 성능 향상 여지가 여전히 존재함을 확인할 수 있었다.