ChatQA 2 Long SFT Data هو مجموعة بيانات أصدرتها NVIDIA في عام 2024، تركز على الحوار السياقي الطويل والإجابة على الأسئلة وقدرات توليد الاسترجاع المعزز (RAG)، والنتائج البحثية ذات الصلة مذكورة في «ChatQA 2: Bridging the Gap to Proprietary LLMs in Long Context and RAG Capabilities»، بهدف تحسين أداء نماذج اللغة الكبيرة في معالجة السياقات الطويلة ومهام الحوار متعدد الأدوار المعقدة.

من بينها، تم اشتقاق المجموعة الفرعية long_sft من عينات GPT-4 في LongAlpaca12k وOpen Orca ومجموعات البيانات الطويلة؛ بينما تم إنشاء المجموعة الفرعية NarrativeQA_131072 بشكل تركيبي بناءً على NarrativeQA، من خلال إضافة فقرات ذات صلة بالملخصات الحقيقية المحددة. تعد هذه المجموعة بيانات التدريب الخاصة بالضبط الدقيق للإشراف الكامل (SFT) للسياق الطويل لنموذج ChatQA-2، وتتضمن بشكل أساسي مجموعتين فرعيتين: long_sft وNarrativeQA_131072. تنسيق البيانات هو JSON، ويتضمن مجموعات التدريب والاختبار، ويُستخدم في مرحلة الضبط الدقيق للتعليمات للنموذج.

تكوين مجموعة البيانات

تتضمن مجموعة البيانات التكوينين الرئيسيين التاليين (المجموعات الفرعية):

• long_sft: بيانات الضبط الدقيق للإشراف للسياق الطويل المشتقة من مجموعات البيانات الحالية، لتحسين قدرة النموذج على الفهم والتوليد في الحوارات النصية الطويلة.

  • مجموعة التدريب: long_sft/long_sft_QA_train.json
  • مجموعة الاختبار: long_sft/long_sft_QA_dev.json

• NarrativeQA_131072: بيانات أسئلة وأجوبة للسياق الطويل تم إنشاؤها بشكل تركيبي بناءً على مجموعة بيانات NarrativeQA، مع توسيع معلومات السياق بإضافة فقرات ذات صلة.

  • مجموعة التدريب: NarrativeQA_131072/NarrativeQA_131072_QA_train.json
  • مجموعة الاختبار: NarrativeQA_131072/NarrativeQA_131072_QA_dev.json

Citation

@article{xu2024chatqa,
  title={ChatQA 2: Bridging the Gap to Proprietary LLMs in Long Context and RAG Capabilities},
  author={Xu, Peng and Ping, Wei and Wu, Xianchao and Liu, Zihan and Shoeybi, Mohammad and Catanzaro, Bryan},
  journal={arXiv preprint arXiv:2407.14482},
  year={2024}
}