Réponse aux questions à choix multiple
La réponse aux questions à choix multiple (MCQA) est une sous-tâche du traitement automatique des langues naturelles qui nécessite que le modèle prédise la meilleure réponse à une question donnée en se basant sur les options de réponse candidates et le contexte de soutien fourni. Cette tâche vise à évaluer les capacités de compréhension et de raisonnement du modèle et possède une large gamme d'applications, notamment dans l'éducation intelligente, l'évaluation en ligne et la recherche de connaissances.
MedMCQA
Meditron-70B (CoT + SC)
BIG-bench (Hyperbaton)
BIG-bench (Movie Recommendation)
BIG-bench (Navigate)
BIG-bench (Ruin Names)
MMLU (College Biology)
Chinchilla (few-shot, k=5)
MMLU (Medical Genetics)
MMLU (Professional medicine)
MMLU (Elementary Mathematics)
Chinchilla (few-shot, k=5)
MMLU (High School Biology)
Chinchilla (few-shot, k=5)
MMLU (College Chemistry)
Chinchilla (few-shot, k=5)
MMLU (High School Mathematics)
GAL 120B (zero-shot)
MMLU (Electrical Engineer)
GAL 120B (zero-shot)
MMLU (College Physics)
MMLU (Formal Logic)
Gopher (few-shot, k=5)
MMLU (High School Statistics)
MMLU (Abstract Algebra)
GAL 30B (zero-shot)
MMLU (Econometrics)
Gopher (few-shot, k=5)
MMLU (High School Computer Science)
GAL 120B (zero-shot)
MMLU (College Mathematics)
GAL 120B (zero-shot)
MMLU (Astronomy)
Chinchilla (few-shot, k=5)
MMLU (High School Chemistry)
Chinchilla (few-shot, k=5)
MMLU (College Computer Science)
Chinchilla (few-shot, k=5)
MMLU (High School Physics)
BIG-bench (Novel Concepts)
MMLU (Machine Learning)
Chinchilla (few-shot, k=5)
IndicGLUE WSTP Pa
MMLU (Clinical Knowledge)
MMLU (Anatomy)
Med-PaLM 2 (ER)
MMLU (College Medicine)
FrenchMedMCQA
CamemBERT