단일 선택 결정과 전이 학습을 통한 기계 독해 성능 향상

다중 선택 기반 기계 독해(MMRC)는 주어진 문장과 질문에 기반하여 제시된 선택지 중 정답을 선택하는 것을 목표로 한다. MMRC는 태스크 특수성 때문에 SQuAD, Dream과 같은 다른 기계 독해 태스크로부터 지식을 효과적으로 전이하기가 쉽지 않다. 본 논문에서는 단순히 다중 선택을 이진 분류를 통해 단일 선택으로 재구성함으로써, 특정 답변이 올바른지 여부를 구분하는 모델을 학습한다. 이후 가장 높은 신뢰도 점수를 가진 선택지를 최종 정답으로 선정한다. 본 연구에서는 ALBERT-xxlarge 모델을 기반으로 모델을 구축하고, RACE 데이터셋에서 성능을 평가하였다. 학습 과정에서는 AutoML 전략을 도입하여 더 우수한 하이퍼파라미터를 탐색하였다. 실험 결과, 단일 선택 방식이 다중 선택 방식보다 우수한 성능을 보였다. 또한, 다른 종류의 기계 독해 태스크로부터의 지식 전이를 통해, 본 모델은 단일 설정과 앙상블 설정 모두에서 새로운 최고 성능(SOTA)을 달성하였다.