HyperAI
Command Palette
Search for a command to run...
Diversity Score(Distinct-1/Distinct-2)은 대규모 모델 및 추론 분야의 텍스트 생성 작업에서 중요한 평가 지표입니다. 원본 정의(Li et al., 2015)는 다음과 같습니다: 생성된 텍스트의 총 단어 수로 각각의 서로 다른 unigram과 bigram의 수를 나눕니다. 이는 생성된 콘텐츠의 어휘 다양성과 반복을 피하는 능력을 측정합니다. 값이 높을수록 모델이 더 풍부하고 획일적이지 않은 텍스트를 생성할 수 있음을 나타냅니다.
일부 후속 구현 및 튜토리얼에서는 원본 논문과 달리 분모로 '전체 n-gram 수'를 사용하므로, 비교 시 주의가 필요합니다. 일반적으로 무차원 점수로 보고됩니다. 이 지표는 관련 벤치마크와 논문에서 널리 사용되며, 해당 차원에서 모델의 성능을 효과적으로 반영합니다. 값이 높을수록 좋습니다.