Falcon-H1-Arabic, le tout nouveau modèle linguistique arabe de l’Institut de l’Intelligence Artificielle de l’Arabie Saoudite (TII), marque une avancée majeure dans le traitement automatique du langage arabe. Conçu pour repousser les limites de la modélisation linguistique arabe, ce système repose sur une architecture hybride inédite, combinant des modèles d’état d’ordre (Mamba) et des attention Transformers dans chaque bloc, permettant une scalabilité linéaire en temps pour des séquences extrêmement longues tout en préservant une modélisation précise des relations à longue portée. Cette innovation s’inscrit dans une évolution directe de Falcon-Arabic, dont les retours de la communauté ont permis d’identifier des lacunes critiques : compréhension contextuelle, dialectes régionaux, raisonnement mathématique et connaissances spécialisées. Falcon-H1-Arabic est disponible en trois versions : 3B, 7B et 34B paramètres, chacune optimisée pour des cas d’usage spécifiques. Les performances sont exceptionnelles : le modèle 3B atteint environ 62 % sur l’Open Arabic LLM Leaderboard (OALL), surpassant des modèles comme Gemma-4B ou Phi-4-mini, tandis que le 7B atteint 71,7 %, dépassant même des systèmes plus grands comme Qwen3-8B. Le modèle 34B établit un nouveau record mondial avec près de 75 % sur OALL, surpassant des modèles de taille équivalente ou même plus grands, comme Llama-3.3-70B, démontrant l’efficacité de l’architecture hybride. Sur des benchmarks spécialisés, les résultats sont tout aussi impressionnants : 96 % sur 3LM (STEM), 80 % sur ArabCulture, et 53 % en moyenne sur AraDice pour la couverture dialectale (égyptien, levantin, gulf). L’un des atouts clés réside dans l’augmentation drastique de la fenêtre contextuelle : passant de 32K à 128K pour le modèle 3B et à 256K pour les deux autres, ces modèles peuvent traiter des romans entiers ou des milliers de pages de documentation technique, ouvrant la voie à des applications dans les domaines juridique, médical et académique. Cette capacité est renforcée par une post-formation rigoureuse combinant fine-tuning supervisé (SFT) et optimisation directe des préférences (DPO), qui améliore la cohérence, la fidélité conversationnelle et la gestion des longs contextes sans compromettre les performances fondamentales. La qualité du jeu de données pré-entraînement a été revue de fond en comble : filtrage linguistique profond basé sur l’orthographe, la morphologie, les diacritiques et la syntaxe arabe, éliminant le bruit des sources web ouvertes. Une couverture significative des dialectes régionaux (égyptien, levantin, gulf, maghrébin) a été intégrée, tout en maintenant un équilibre avec le français, l’anglais et le contenu multilingue (300 milliards de tokens), garantissant une bonne performance en raisonnement scientifique, technique et multilingue. Les applications pratiques sont variées : le modèle 3B est idéal pour les systèmes agents, les applications embarquées et les chatbots à faible latence ; le 7B s’impose comme solution de production universelle pour les chatbots, la synthèse et l’analyse documentaire ; le 34B, quant à lui, est conçu pour les tâches critiques comme l’analyse juridique ou médicale, où la précision et la cohérence sur de longues séquences sont essentielles. Toutefois, comme tout modèle de langage, Falcon-H1-Arabic peut refléter des biais ou produire des hallucinations. Son utilisation dans des décisions médicales, juridiques ou financières doit être accompagnée d’une vérification humaine. L’approche repose sur une collaboration étroite avec la communauté arabe en NLP, et les auteurs remercient leurs collègues du TII pour leur contribution technique et scientifique. En résumé, Falcon-H1-Arabic n’est pas seulement un progrès technique, mais une étape fondamentale vers une intelligence artificielle arabe plus puissante, plus inclusive et plus fiable, ouvrant la voie à une transformation numérique profonde dans le monde arabe.