BioLay_AK_SS في BioLaySumm: التكيّف الحدودي من خلال التدريب المُعدّل المزدوج لنموذجات اللغة الكبيرة المستخدمة في إنشاء ملخصات طبية بلغة عامة

الخلاصة الشعبية ضرورية ولكنها صعبة، إذ تُبسط المعلومات العلمية للغير متخصصين وتحافظ على تحديثهم بأحدث المعرفة العلمية. في مشاركتنا في مهمة المشاركة المشتركة: خلاصة علمية شعبية للمساهمات البحثية الطبية في ورشة عمل BioNLP (Goldsack et al., 2024)، ACL 2024، قمنا بتقييم شامل لعملية الاستخلاص التوليدية للآداب الطبية باستخدام نماذج اللغة الكبيرة (LLMs)، وقمنا بتقييم الأداء باستخدام عشرة مقاييس تصنف إلى ثلاث فئات: الصلة، والقابلية للقراءة، والدقة الحقيقية، باستخدام مجموعتي بيانات eLife وPLOS التي قدمتها المنظمة. وقد طوّرنا إطارًا ثنائي المرحلة لاستخلاص ملخصات شعبية للمقالات العلمية الطبية. في المرحلة الأولى، أنتجنا ملخصات باستخدام نماذج LLMs BART وPEGASUS من خلال تدريبها المخصص على المجموعات المعطاة. وفي المرحلة الثانية، قمنا بدمج الملخصات المُنتجة وقدمها إلى نموذج BioBART، ثم قمنا بتدريبه المخصص على نفس المجموعات. تُظهر نتائجنا أن دمج النماذج العامة مع النماذج المتخصصة في المجال يعزز الأداء بشكل ملحوظ.