مجموعة بيانات سلامة المحتوى من Nemotron V1 هي مجموعة بيانات مفتوحة المصدر لسلامة المحتوى أصدرتها NVIDIA، وكانت تُعرف سابقًا باسم مجموعة بيانات Aegis AI لسلامة المحتوى، والورقة البحثية المرتبطة بها هي AEGIS: Online Adaptive AI Content Safety Moderation with Ensemble of LLM Experts، وتهدف إلى المساعدة في بناء آليات مراجعة المحتوى لنماذج اللغة الكبيرة، وتحسين قدرة النماذج على توليد ردود آمنة.

تحتوي مجموعة البيانات على 11,997 عينة موسومة يدويًا، منها 10,798 عينة في مجموعة التدريب و1,199 عينة في مجموعة الاختبار. مصدر مطالبات البيانات هو Anthropic HH-RLHF، والردود مولدة بواسطة Mistral-7B-v0.1، وقد تم تنفيذ عملية الوسم بواسطة 12 مُعلِّمًا و2 من موظفي ضمان الجودة في NVIDIA.

مكونات مجموعة البيانات

تتضمن مجموعة البيانات مجموعة تدريب ومجموعة اختبار، وتشمل بشكل أساسي المحتوى التالي:

• تنسيق البيانات: يغطي أربعة أشكال هي: مطالبات المستخدم فقط، ومطالبات النظام مع مطالبات المستخدم، والمحادثات أحادية الجولة، والمحادثات متعددة الجولات.
• فئات الوسم: تشمل فئات مثل خطاب الكراهية، والمحتوى الجنسي، والعنف، والانتحار وإيذاء النفس، والتهديدات، والمحتوى الجنسي للقاصرين، والأسلحة النارية والأسلحة غير القانونية، والمواد الخاضعة للرقابة، والخطط الإجرامية، ومعلومات الخصوصية الشخصية، والتحرش، واللغة البذيئة، وفئات أخرى وفئات تتطلب الحذر.
• حقول البيانات: تشمل معرّف العينة، ونص المحادثة، ونوع النص، وعدد الوسوم، ومجموعات متعددة من تسميات السلامة.
• استخدام البيانات: يُستخدم لمراجعة المحتوى، والمواءمة الآمنة، والأبحاث ذات الصلة، ويمكن أن يدعم الضبط الدقيق الخاضع للإشراف (SFT) وتحسين التفضيل المباشر (DPO).

Citation

@article{ghosh2024aegis,
    title={AEGIS: Online Adaptive AI Content Safety Moderation with Ensemble of LLM Experts},
    author={Ghosh, Shaona and Varshney, Prasoon and Galinkin, Erick and Parisien, Christopher},
    journal={arXiv preprint arXiv:2404.05993},
    year={2024}
}