2달 전
문맥 임베딩과 모델 가중치 부여를 통한 의생명 과학 질문 답변 시스템의 개선
Yuxuan Lu; Jingya Yan; Zhixuan Qi; Zhongzheng Ge; Yongping Du

초록
생물의학 질문 응답(Biomedical Question Answering)은 주어진 질문에 대해 생물의학 분야에서 답을 얻는 것을 목표로 합니다. 이 분야 지식의 높은 요구성 때문에 모델이 제한된 훈련 데이터에서 도메인 지식을 학습하는 것이 어렵습니다. 우리는 오픈 도메인 QA 모델(\aoa)과 생물의학 도메인 데이터로 사전 학습된 \biobert 모델을 결합하는 문맥 임베딩 방법을 제안합니다. 대규모 생물의학 코퍼스에서 비지도 사전 학습을 수행하고, 생물의학 질문 응답 데이터셋에서 지도 미세 조정(fine-tuning)을 적용하였습니다. 또한, MLP 기반 모델 가중치 계층을 채택하여 두 모델의 장점을 자동으로 활용하여 올바른 답변을 제공할 수 있도록 하였습니다. 우리의 방법은 PubMed 코퍼스에서 구성된 공개 데이터셋 \biomrc를 사용하여 평가되었습니다. 실험 결과, 우리의 모델이 최신 시스템보다 크게 우수함을 보여주었습니다.