2달 전

주의를 통한 자신감

Matīss Rikters; Mark Fishel
주의를 통한 자신감
초록

생성된 번역의 주의 분포는 주의 기반 순환 신경망 번역 모델의 유용한 부산물로, 입력 토큰과 출력 토큰 간의 부드러운 정렬로 처리될 수 있습니다. 본 연구에서는 주의 분포를 출력 번역에 대한 신뢰도 지표로 사용합니다. 우리는 주의 분포를 활용하는 두 가지 전략을 제시합니다: 대규모 역번역 코퍼스에서 나쁜 번역을 필터링하고, 두 개의 다른 번역 시스템이 혼합된 구조에서 최상의 번역을 선택하는 것입니다. 수동 평가는 우리의 신뢰도 점수와 인간 판단 사이에 약한 상관관계만 있음을 나타냈지만, 사용 사례는 영어<->독일어 및 영어<->라트비아어 번역에서 필터링 시 최대 2.22 BLEU 점수 향상과 혼합 번역 시 0.99 점수 향상을 보였습니다.