L'ensemble de données LongWriter-6k a été lancé par l'Université Tsinghua et Zhipu AI en 2024. Il contient 6 000 données SFT avec une longueur de sortie de 2 000 à 32 000 mots (y compris l'anglais et le chinois). Il peut prendre en charge la formation LLM et étendre sa taille de fenêtre de sortie maximale à plus de 10 000 mots. Les résultats pertinents de l'article sontLongWriter : Génération de plus de 10 000 mots à partir de LLM à contexte long".