Cant Talk About This-NC는 NVIDIA가 2024년에 공개한 대화 주제 제어와 언어 모델 안전 정렬에 초점을 맞춘 데이터셋으로, 관련 논문 성과는 「CantTalkAboutThis: Aligning Language Models to Stay on Topic in Dialogues」이며, 대규모 언어 모델이 작업 지향 대화에서 주제 집중력을 유지하고 간섭 항목에 대한 견고성을 강화하는 것을 목표로 합니다.

이 데이터셋은 건강, 은행, 여행, 교육, 금융, 보험, 법률, 부동산 및 컴퓨터 문제 해결 등 9개 영역을涵盖하는 1,186개의 합성 대화 샘플을 포함하며, 각 대화에는 모델의 주제 이탈 저항 능력을 테스트하기 위한 간섭 턴이 포함되어 있습니다. 이 데이터셋에서 미세 조정을 수행하면 지침 준수 및 안전 작업에서 모델의 성능을 크게 향상시킬 수 있으며, 민감한 주제를 효과적으로 식별하고 제한된 콘텐츠를 처리할 수 있습니다.

데이터셋 구성

데이터셋은 주로 다음 필드를 포함합니다:

• domain: 대화가 속한 영역
• scenario: 논의 중인 구체적인 시나리오 또는 작업
• system_instruction: 모델에 부여된 대화 전략으로, 일반적으로 허용 및 금지 논의에 대한 복잡한 지침 세트를 포함
• conversation: 주요 주제와 간섭 턴을 포함한 전체 대화 내용
• distractors: 간섭 턴 목록으로, 대화 중 로봇 턴과 사용자가 로봇 턴에 응답해야 하는 간섭 턴을 포함
• conversation_with_distractors: 간섭 턴을 포함한 전체 대화

데이터셋은 훈련 세트와 테스트 세트로 나뉘며, Llama 계열 모델을 기반으로 합성 생성되어 모델이 주제 이탈에 저항하고 대화 주제를 안정적으로 유지하는 능력을 평가하는 데 사용됩니다. 라이선스는 CC-BY-NC-4.0으로, 비상업적 연구 목적으로만 사용할 수 있습니다.

Citation

@inproceedings{sreedhar2024canttalkaboutthis,
  title={CantTalkAboutThis: Aligning Language Models to Stay on Topic in Dialogues},
  author={Sreedhar, Makesh and Rebedea, Traian and Ghosh, Shaona and Zeng, Jiaqi and Parisien, Christopher},
  booktitle={Findings of the Association for Computational Linguistics: EMNLP 2024},
  pages={12232--12252},
  year={2024},
  organization={Association for Computational Linguistics}
}