Nemotron Content Safety Dataset V2 هو مجموعة بيانات أصدرتها NVIDIA في عام 2025، تركز على تقييم سلامة ومخاطر المحتوى لنماذج اللغة الكبيرة، وتهدف إلى توفير بيانات حوار متعددة الجولات عالية الجودة لتدريب نماذج حماية السلامة القوية للذكاء الاصطناعي.

تحتوي مجموعة البيانات على 33,416 عينة تفاعل بين الإنسان والآلة، بما في ذلك 30,007 عينة تدريب، و1,445 عينة تحقق، و1,964 عينة اختبار. تتبع مجموعة البيانات تصنيفًا شاملًا للمخاطر يتضمن 12 فئة خطر رئيسية و9 فئات فرعية، وهي مناسبة لبناء أنظمة مراجعة المحتوى ومواءمة نماذج اللغة الكبيرة. تعتمد البيانات على مطالبات Anthropic HH-RLHF، وتُولَّد الاستجابات باستخدام نموذج Mistral-7B-v0.1، مع الجمع بين التصنيف البشري ونظام هيئة محلفين متعددة النماذج اللغوية لتصنيف السلامة.

مكونات مجموعة البيانات

• id: معرّف العينة.
• prompt: الجولة الأولى من حوار المستخدم. إذا كانت من مجموعة بيانات كشف الانتحار وتم إخفاء هويتها، تظهر هنا كـ "REDACTED"، ويتم الربط بالبيانات الأصلية عبر reconstruction_id_if_redacted.
• response: الرد الأول للمساعد. إذا كانت عينة تحتوي على مطالبة فقط، فقد تكون null أو سلسلة فارغة.
• prompt_label: تسمية السلامة الثنائية للمطالبة.
• response_label: تسمية السلامة الثنائية للرد. إذا كانت عينة تحتوي على مطالبة فقط، تكون null.
• prompt_label_source: مصدر التسمية، دائمًا human (بشري).
• response_label_source: مصدر تسمية الرد، يشمل human (بشري)، أو llm_jury (هيئة محلفين من نماذج لغوية)، أو refusal_data_augmentation (توسيع بيانات الرفض).
• violated_categories: قائمة بالفئات الخطرة مفصولة بفواصل، مرتبة حسب تكرار التصنيف.

Citation

@inproceedings{ghosh-etal-2025-aegis2,
    title = "{AEGIS}2.0: A Diverse {AI} Safety Dataset and Risks Taxonomy for Alignment of {LLM} Guardrails",
    author = "Ghosh, Shaona and Varshney, Prasoon and Sreedhar, Makesh Narsimhan and Padmakumar, Aishwarya and Rebedea, Traian and Varghese, Jibin Rajan and Parisien, Christopher",
    editor = "Chiruzzo, Luis and Ritter, Alan and Wang, Lu",
    booktitle = "Proceedings of the 2025 Conference of the Nations of the Americas Chapter of the Association for Computational Linguistics: Human Language Technologies (Volume 1: Long Papers)",
    month = apr,
    year = "2025",
    address = "Albuquerque, New Mexico",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2025.naacl-long.306/",
    doi = "10.18653/v1/2025.naacl-long.306",
    pages = "5992--6026",
    ISBN = "979-8-89176-189-6"
}