Abstract

Generative große Sprachmodelle (Large Language Models, LLMs) haben in verschiedenen Anwendungen, wie beispielsweise Fragen-Antwort-Systemen (Question Answering, QA) und Dialogsystemen, erheblichen Erfolg gezeigt. In spezialisierten Bereichen wie der Fragebeantwortung im Bereich der traditionellen chinesischen Medizin (TCM) erzielen diese Modelle jedoch ohne Feinabstimmung an domain-spezifischen Datensätzen oft unzureichende Leistungen. Um diesem Problem entgegenzuwirken, stellen wir MedChatZH vor, ein Dialogmodell, das speziell für die Fragebeantwortung im Bereich der traditionellen chinesischen Medizin entwickelt wurde. Unser Modell wird zunächst auf chinesischen medizinischen Werken der traditionellen chinesischen Medizin vortrainiert und anschließend mit einem sorgfältig zusammengestellten medizinischen Anweisungsdatensatz feinabgestimmt. Es übertrifft mehrere etablierte Baselines auf einem realen medizinischen Dialogdatensatz. Wir stellen unser Modell, den Quellcode sowie den Datensatz unter folgender URL zur Verfügung, um die weitere Forschung im Bereich der traditionellen chinesischen Medizin und großer Sprachmodelle zu fördern.