17日前

低リソース言語における質問応答モデルの開発:Transformerベースアプローチを用いたトルコ語医療テキストに関する事例研究

{Murat Aydogan, Mert Incidelen}
要約

本研究では、ターキッシュ語(トルコ語)という低リソース言語における質問応答(QA)タスク向けに、医療テキストを用いてTransformerベースの事前学習言語モデルの微調整を行った。大規模なトルコ語コーパスを用いて作成されたBERTurk事前学習言語モデルの変種を、QAタスクに適用した。本研究では、トルコ高等教育委員会の学位論文センターに収録された医学関連学位論文およびトルコ語Wikipediaを活用して作成された医療分野向けのトルコ語QAデータセットを提示している。このデータセットは合計8,200件の質問-回答ペアを含み、BERTurkモデルの微調整に使用された。モデルの性能評価には、Exact Match(EM)およびF1スコアが用いられた。BERTurk(大文字小文字区別あり、32kトークン)モデルはEM 51.097、F1スコア74.148を達成し、BERTurk(大文字小文字区別あり、128kトークン)モデルはEM 55.121、F1スコア77.187を記録した。これらの結果から、事前学習言語モデルがトルコ語をはじめとする低リソース言語における質問応答タスクに効果的に活用可能であることが示された。本研究は、トルコ語医療テキスト処理および自動QAタスクの基盤を築く重要な一歩となり、今後の同分野における研究に示唆を与えるものである。