Une récente étude comparative d'apprentissage automatique a placé la régression logistique en tête face à XGBoost et d'autres algorithmes complexes dans la prédiction des résultats de 358 matchs de football internationaux. Ce résultat, bien que contre-intuitif, illustre une règle fondamentale de l'intelligence artificielle appliquée : la complexité du modèle doit toujours correspondre à la quantité et à la qualité des données disponibles. L'expérience a utilisé trois variables simples : l'écart de force entre les équipes, leur force combinée et un indicateur de phase finale. Les données couvrent les Coupes du monde de 2010 à 2022 et les Euro 2020 et 2024. Cinq classificateurs ont été testés via une validation croisée à cinq plis : régression logistique, forêt aléatoire, K plus proches voisins, réseau de neurones et XGBoost. La performance a été évaluée principalement par la log-loss, une métrique probabiliste qui pénalise sévèrement les prédictions mal calibrées, et non par la simple précision. La régression logistique a obtenu la meilleure log-loss. En revanche, XGBoost, habituellement champion sur des jeux de données volumineux, a enregistré un score supérieur à 1,099, le seuil théorique d'une prédiction purement aléatoire. Cette contre-performance s'explique par le compromis biais-variance. Avec seulement 358 observations, les modèles à forte capacité comme XGBoost ou les réseaux de neurones disposent de trop de paramètres. Ils mémorisent les variations aléatoires du jeu d'entraînement au lieu d'apprendre des tendances générales, un phénomène classique de surapprentissage. La métrique log-loss accentue cette faiblesse en sanctionnant mathématiquement les erreurs formulées avec une confiance excessive. La régression logistique a réussi car son hypothèse de linéarité correspond parfaitement à la structure de ce problème spécifique. La probabilité de victoire évolue de manière continue en fonction de l'écart de force entre les équipes. Un modèle linéaire nécessite beaucoup moins de données pour estimer ses coefficients avec stabilité. De plus, avec seulement trois caractéristiques et peu d'interactions complexes, les algorithmes basés sur des arbres n'avaient pas de structures supplémentaires à découvrir, ce qui a uniquement ajouté de la variance sans aucun gain de signal prédictif. Cette analyse offre un avertissement crucial pour les praticiens de la data science. Il ne s'agit pas de discréditer XGBoost ou le deep learning, qui restent indispensables sur des données massives et riches en variables. Elle souligne l'importance de commencer par des modèles simples pour établir une référence solide, puis d'augmenter la complexité uniquement lorsque la validation sur des données non vues le justifie. Pour déterminer le moment opportun, l'analyse des courbes d'apprentissage est recommandée : un modèle complexe ne dépasse un modèle linéaire que lorsque la quantité de données atteint un seuil critique qui permet de discipliner sa variance. En définitive, la performance d'un algorithme ne dépend pas seulement de sa réputation, mais de son adéquation avec le contexte de données. Sur des problèmes de petite taille ou à faible dimensionalité, la simplicité n'est pas une limitation, mais un choix méthodologique rigoureux. Une validation honnête et le respect du compromis biais-variance restent les meilleurs garants de la fiabilité des prédictions en intelligence artificielle.