تُعد مجموعة بيانات SFT DataBlend V1، التي أصدرتها NVIDIA في عام 2024، مجموعة بيانات عالية الجودة مصممة للضبط الدقيق بناءً على التعليمات، وتهدف إلى توفير بيانات تعليمات مُختارة بعناية ومخلوطة للنماذج اللغوية الكبيرة.

تتكون هذه المجموعة من خليط لمجموعات بيانات متعددة متاحة للجمهور، بما في ذلك عينات من OASST وCodeContests وFLAN وT0 وOpen_Platypus وGSM8K. ولضمان قابلية الاستخدام التجاري، تتضمن هذه المجموعة المختلطة فقط المجموعات الفرعية ذات التراخيص宽松ة (المتساهلة)، وقد خضعت بعض المجموعات الفرعية لعمليات أخذ عينات متعددة الجولات بناءً على معدلات العينة وحجم المجموعة. وتغطي مجالات متنوعة تشمل فهم اللغة الطبيعية، والاستدلال المنطقي، وتوليد الشيفرة البرمجية، وحل المسائل الرياضية، مما يوفر دعماً غنياً ومتنوعاً لبيانات تدريب النماذج.

تكوين مجموعة البيانات

تتضمن مجموعة البيانات الحقول الرئيسية التالية:

• conversations: محتوى المحادثات، منظماً في شكل تفاعلات متعددة الجولات بين المستخدم والمساعد.
• mask: يحدد الجولات المشاركة أو غير المشاركة في حساب الخسارة، حيث يتم إخفاء جولات المستخدم افتراضياً.
• system: كلمة موجهة للنظام (System Prompt)، فارغة افتراضياً.
• dataset: معرّف مصدر البيانات، يُستخدم لتتبع المجموعة الأصلية التي ينتمي إليها العينة.

تدمج مجموعة البيانات عدة مجموعات بيانات عامة، وتغطي أنواع المهام التالية:

• فهم اللغة الطبيعية: تشمل MNLI وQNLI وSNLI وغيرها.
• الأسئلة والأجوبة وفهم القراءة: تشمل SQuAD وDROP وNatural Questions وTriviaQA وغيرها.
• الاستدلال المنطقي والاستدلال بالمعرفة العامة: تشمل ARC وHellaSwag وPIQA وCOPA وغيرها.
• الاستدلال الرياضي: تشمل GSM8K وSciBench وPRM800K وغيرها.
• توليد الشيفرة البرمجية: تشمل CodeContests وtigerbot-leetcodesolutions-en-2k وغيرها.
• توليد النص: تشمل FLAN وT0 وDART وE2ENLG وغيرها.