Der LongWriter-6k-Datensatz wurde 2024 von der Tsinghua-Universität und Zhipu AI veröffentlicht. Er enthält 6.000 SFT-Daten mit einer Ausgabelänge von 2.000 bis 32.000 Wörtern (einschließlich Englisch und Chinesisch). Es kann das Training von LLM unterstützen und die maximale Ausgabefenstergröße auf über 10.000 Wörter erweitern. Die relevanten Papierergebnisse sindLongWriter: Entfesseln Sie die Generierung von über 10.000 Wörtern aus LLMs mit langem Kontext".

Zitat

@article{bai2024longwriter, title={LongWriter: Generierung von über 10.000 Wörtern aus langen Kontext-LLMs}, Autor={Yushi Bai und Jiajie Zhang und Xin Lv und Linzhi Zheng und Siqi Zhu und Lei Hou und Yuxiao Dong und Jie Tang und Juanzi Li}, journal={arXiv preprint arXiv:2408.07055}, Jahr={2024} }