Les modèles fondamentaux multimodaux peuvent-ils comprendre les diagrammes schématiques ? Une étude empirique sur la Q&A de recherche d'information dans les articles scientifiques

Ce document présente MISS-QA, la première référence spécifique conçue pour évaluer la capacité des modèles à interpréter les diagrammes schématiques dans la littérature scientifique. MISS-QA comprend 1 500 exemples annotés par des experts, répartis sur 465 articles scientifiques. Dans cette référence, les modèles sont chargés d'interpréter des diagrammes schématiques qui illustrent des aperçus de recherche et de répondre à des questions de recherche d'information correspondantes en se basant sur le contexte plus large de l'article. Nous évaluons les performances de 18 modèles fondamentaux multimodaux de pointe, dont o4-mini, Gemini-2.5-Flash et Qwen2.5-VL. Nous mettons en lumière un écart significatif de performance entre ces modèles et les experts humains sur MISS-QA. Notre analyse des performances des modèles face aux questions non répondables et notre analyse détaillée des erreurs soulignent davantage les forces et les limites des modèles actuels, offrant des pistes clés pour améliorer leur compréhension de la littérature scientifique multimodale.