要約

生成型大規模言語モデル（LLM）は、質問応答（QA）や対話システムなど、さまざまな応用分野で著しい成果を上げている。しかし、伝統的中国医学のQAなど専門的分野においては、ドメイン特化のデータセットでの微調整（fine-tuning）を行わなければ、十分な性能を発揮できない場合がある。こうした課題に対応するため、本研究では伝統的中国医学QAに特化した対話モデル「MedChatZH」を提案する。本モデルは、中国伝統医学書籍を用いた事前学習（pre-training）と、丁寧に構築された医療指向の指示データセットによる微調整を実施している。実世界の医療対話データセットにおいて、複数の強力なベースラインモデルを上回る性能を達成した。本研究では、モデル、コード、およびデータセットをこのURL（https://）にて公開し、伝統的中国医学とLLMの分野におけるさらなる研究を促進することを目的としている。