형태에서 기능 찾기: 개방형 어휘 단어 표현을 위한 구성적 문자 모델

우리는 양방향 LSTM을 사용하여 문자를 조합하여 단어의 벡터 표현을 구축하는 모델을 소개합니다. 전통적인 단어 표현 모델이 각 단어 유형별로 독립적인 벡터를 갖는 반면, 우리의 모델은 각 문자 유형당 하나의 벡터와 조합 모델에 대한 고정된 매개변수 세트만 필요합니다. 이 모델의 압축성뿐만 아니라 언어에서 형태와 기능 간의 임의적인 관계에도 불구하고, 우리의 '조합된' 단어 표현은 언어 모델링과 품사 태깅에서 최고 수준의 결과를 제공합니다. 특히 형태소가 풍부한 언어(예: 터키어)에서 전통적인 기준모델보다 이점이 두드러집니다.