L'ensemble de données LongWriter-6k a été lancé par l'Université Tsinghua et Zhipu AI en 2024. Il contient 6 000 données SFT avec une longueur de sortie de 2 000 à 32 000 mots (y compris l'anglais et le chinois). Il peut prendre en charge la formation LLM et étendre sa taille de fenêtre de sortie maximale à plus de 10 000 mots. Les résultats pertinents de l'article sontLongWriter : Génération de plus de 10 000 mots à partir de LLM à contexte long".

Citation

@article{bai2024longwriter, titre={LongWriter : Générer plus de 10 000 mots à partir de longs textes de maîtrise en droit}, author={Yushi Bai et Jiajie Zhang et Xin Lv et Linzhi Zheng et Siqi Zhu et Lei Hou et Yuxiao Dong et Jie Tang et Juanzi Li}, journal={prépublication arXiv arXiv:2408.07055}, année={2024} }