L'essor des modèles de langage repose encore majoritairement sur des centres de données centralisés, imposant des coûts croissants, une dépendance aux fournisseurs et des limites en matière de confidentialité. Face à ce modèle, Mesh LLM propose une architecture de calcul distribué qui mutualise les puces graphiques disponibles sur différents appareils pour former un réseau unifié. L'application se présente comme une passerelle compatible avec l'API OpenAI, accessible localement, permettant aux développeurs d'exécuter des requêtes sans se soucier de l'emplacement physique du traitement. Conçu pour contourner la dépendance aux clouds, Mesh LLM s'appuie sur la bibliothèque réseau iroh. Celle-ci établit des connexions sécurisées et chiffrées en protocole QUIC entre les nœuds, gérant automatiquement les traversées de pare-feu et les relais de secours. Le système fonctionne sans serveur central. Lorsqu'une demande dépasse les capacités d'une seule machine, un mode de répartition intégré découpe le modèle en couches et les répartit sur plusieurs appareils. Les activations circulent ensuite d'un nœud à l'autre comme dans une chaîne de production, rendant possible l'exécution de modèles massifs avec du matériel modeste. La plateforme intègre un catalogue de plus de quarante modèles, allant des solutions légères compatibles avec les ordinateurs portables aux architectures à experts mixtes de grande taille. Son design modulaire permet d'y connecter facilement de nouveaux plugins et services. Pour les utilisateurs, le déploiement se résume à une installation légère d'environ dix-huit mégaoctets. Le réseau offre la possibilité de rejoindre une grille publique ou de configurer un déploiement privé selon les besoins. Le projet vise à promouvoir une approche plus décentralisée de l'intelligence artificielle, en réduisant les verrouillages propriétaires et en redonnant le contrôle aux équipes. Un développement mobile basé sur le SDK Swift d'iroh est actuellement à l'étude, avec pour objectif d'intégrer le standard ACP afin de connecter directement les agents autonomes au maillage. Open source et soutenu par des infrastructures déjà éprouvées en production, Mesh LLM positionne la mutualisation des ressources comme une alternative viable aux services cloud traditionnels, tout en maintenant une compatibilité totale avec l'écosystème OpenAI existant.