CantTalkAboutThis Topic Control은 NVIDIA가 2024년에 발표한, 작업 지향 대화에서 언어 모델이 주제 집중력을 유지하도록 훈련하기 위한 데이터셋입니다. 관련 논문 성과는 「CantTalkAboutThis: Aligning Language Models to Stay on Topic in Dialogues」이며, 모델의 방해 요소에 대한 저항력을 향상시키고 지시 준수 및 안전 작업의 정렬 능력을 강화하는 것을 목표로 합니다.

이 데이터셋은 건강, 은행, 여행, 교육, 금융, 보험, 법률, 부동산 및 컴퓨터 문제 해결 등 9개 영역을 포괄하는 1,080개의 합성 대화를 포함합니다. 각 대화에는 무관한 주제를 처리할 때 모델의 성능을 테스트하고 개선하기 위한 방해 요소가 포함되어 있습니다. 이 데이터셋은 개인 민감 정보를 포함하지 않으며, 합성 데이터로 생성되었습니다.

데이터셋 구성

데이터셋에는 다음 필드가 포함됩니다:

• domain: 대화가 속한 영역
• scenario: 논의 중인 구체적인 시나리오 또는 작업
• system_instruction: 모델에 대한 대화 전략으로, 일반적으로 허용 및 비허용 주제에 대한 복잡한 지침 세트
• conversation: 주요 주제와 방해 요소를 포함한 전체 대화
• distractors: 대화 내 로봇 응답 및 사용자가 로봇 응답에 대한 응답으로 포함해야 하는 방해 요소를 포함한 방해 요소 목록
• conversation_with_distractors: 방해 요소가 포함된 대화

데이터셋은 훈련 세트(mixtral)와 테스트 세트(human_test_set)의 두 하위 집합으로 나뉩니다. 훈련 세트는 Mixtral-8x7B-Instruct 모델을 기반으로 생성되었으며, 테스트 세트에는 모델 성능을 평가하기 위한 더 복잡하고 현실적인 수동 주석 방해 요소가 포함되어 있습니다.

Citation

@inproceedings{sreedhar2024canttalkaboutthis,
  title={CantTalkAboutThis: Aligning Language Models to Stay on Topic in Dialogues},
  author={Sreedhar, Makesh and Rebedea, Traian and Ghosh, Shaona and Zeng, Jiaqi and Parisien, Christopher},
  booktitle={Findings of the Association for Computational Linguistics: EMNLP 2024},
  pages={12232--12252},
  year={2024},
  organization={Association for Computational Linguistics}
}