تم إطلاق مجموعة بيانات LongWriter-6k بواسطة جامعة Tsinghua وZhipu AI في عام 2024. تحتوي على 6000 بيانات SFT بطول إخراج يتراوح من 2k إلى 32 ألف كلمة (بما في ذلك الإنجليزية والصينية). يمكنه دعم تدريب LLM وتوسيع حجم نافذة الإخراج القصوى إلى أكثر من 10000 كلمة. نتائج الورقة ذات الصلة هيLongWriter: إطلاق العنان لتوليد أكثر من 10,000 كلمة من خلال برامج الماجستير في القانون ذات السياق الطويل".

الاستشهاد

@article{bai2024longwriter, title={LongWriter: إطلاق العنان لتوليد أكثر من 10000 كلمة من نماذج LLM ذات السياق الطويل}, المؤلف={يوشي باي وجياجي تشانغ وشين إل في ولينزي تشنغ وسيكي تشو ولي هو ويوشياو دونغ وجي تانغ وخوانزي لي}، journal={arXiv preprint arXiv:2408.07055}, السنة = {2024} }