TxT360-3efforts ist ein umfangreicher Trainingsdatensatz für Sprachmodelle zum überwachten Feinabstimmen (SFT), der 2025 von der Mohamed bin Zayed Universität für Künstliche Intelligenz veröffentlicht wurde. Die zugehörige Publikation ist… K2-V2: Ein 360°-offener, auf logisches Denken ausgerichteter LLM-StudiengangZiel ist es, die drei Inferenzstärken des Modells mithilfe von Chatvorlagen zu steuern. Dieser Datensatz umfasst ca. 10 Millionen Beispiele und 10 Milliarden Trainings-Token und deckt neun Aufgabenkategorien ab: Mathematik, Programmierung, allgemeiner Dialog, STEM-logisches Denken, Befolgen von Anweisungen, Werkzeugaufruf, Agententrajektorie, Modellierung der Selbstidentität und sichere Ausrichtung. Er enthält zahlreiche mehrrundige Dialoge und Beispiele mit verifizierbaren Einschränkungen. Die Daten stammen aus öffentlich zugänglichen, lizenzierten Datensätzen oder hochwertigen synthetischen Daten und wurden einer strengen Qualitätsprüfung, Deduplizierung und Benchmark-Bereinigung unterzogen. Die Antworten werden primär von GPT-OSS-120B mit unterschiedlichen Inferenzintensitäten generiert. Der Datensatz unterscheidet explizit zwischen niedriger, mittlerer und hoher Inferenzintensität mithilfe einer einheitlichen Chatvorlage. Dadurch kann das Modell während des Trainings lernen, die Generierungslänge und die Inferenztiefe an die jeweiligen Inferenzanforderungen anzupassen.

Zitat

@misc{k2team2025k2v2360openreasoningenhancedllm, Titel={K2-V2: Ein 360-offener, auf logisches Denken ausgerichteter LLM}, author={K2 Team und Zhengzhong Liu und Liping Tang und Linghao Jin und Haonan Li und Nikhil Ranjan und Desai Fan und Shaurya Rohatgi und Richard Fan und Omkar Pangarkar und Huijuan Wang und Zhoujun Cheng und Suqi Sun und Seungwook Han und Bowen Tan und Gurpreet Gosal und Xudong Han und Varad Pimpalkhute und Shibo Hao und Ming Shan Hee und Joel Hestness und Haolong Jia und Liqun Ma und Aaryamonvikram Singh und Daria Soboleva und Natalia Vassilieva und Renxi Wang und Yingquan Wu und Yuekai Sun und Taylor Killian und Alexander Moreno und John Maggs und Hector Ren und Guowei He und Hongyi Wang und Xuezhe Ma und Yuqi Wang und Mikhail Yurochkin und Eric P. Xing}, Jahr={2025}, eprint={2512.06201}, archivePrefix={arXiv}, primaryClass={cs.LG}, url={https://arxiv.org/abs/2512.06201}, }