Aleph Alpha dévoile Kolibri, LLM souverain pour l'allemand

Aleph Alpha a lancé le 3 octobre 2026 Kolibri, un grand modèle de langage open-weight conçu spécifiquement pour l'allemand et l'anglais. Développé en Allemagne et en Finlande sous le régime juridique européen, le modèle vise la souveraineté des données et la conformité au règlement IA de l'Union européenne. Les poids sont disponibles sous licence Apache 2.0 sur Hugging Face. Kolibri repose sur une architecture Mixture of Experts comptant 78,1 milliards de paramètres. Grâce à un système de routage, seul un quart de ces paramètres est activé par token, réduisant la charge computationnelle tout en maintenant la mémoire complète en RAM pour l'inférence. Cette conception nécessite environ 78 gigaoctets de mémoire GPU, limitant le déploiement à des infrastructures de centres de données. Le modèle se distingue par plusieurs avancées techniques. Son tokenizer, basé sur un algorithme UniBPE, optimise la langue allemande, réduisant le nombre de tokens nécessaires de 15 % par rapport aux concurrents. Pour gérer de longs documents, Kolibri utilise une attention à fenêtre glissante sur la majorité de ses couches, lui permettant de traiter nativement 262 144 tokens et jusqu'à un million lors de tests approfondis. Le raisonnement est entièrement configurable en quatre niveaux d'effort, et l'entraînement repose sur des données logiques spécifiquement conçues en allemand, préservant la précision des réponses. La réduction des hallucinations a été priorisée via le protocole Merlin-Arthur. Ce mécanisme d'entraînement pousse le modèle à vérifier les preuves disponibles et à reconnaître explicitement ses limites, déclarant ne pas connaître une réponse dans 44 % des cas où il manque d'informations, contre moins de 12 % pour des modèles comparables. Dans les évaluations, Kolibri affiche les meilleurs résultats parmi les modèles de taille active similaire, notamment en mathématiques, en analyse de documents techniques et en compréhension contextuelle. Ses points faibles incluent une mémorisation factuelle limitée, des performances en codage inférieures à celles de ses rivaux directs, et une prise en charge multilingue restreinte à deux langues par choix stratégique. Pour l'exploitation, Aleph Alpha recommande son plugin vLLM, compatible API OpenAI, permettant une intégration transparente dans les applications existantes. Kolibri s'adresse particulièrement aux secteurs régulés comme la santé, la finance ou l'industrie en Europe, où la confidentialité des données, la conformité légale et la précision linguistique sont prioritaires. Cette publication confirme la montée en puissance de l'écosystème européen de l'intelligence artificielle, proposant une alternative efficace, conforme et spécialisée aux modèles généralistes.