Louez votre PC gamer inactif pour l'inférence IA
Deux startups, Far Labs et Evolving Edge, développent des places de marché visant à louer les puissances de calcul inutilisées des ordinateurs personnels et des PC gamers pour effectuer des tâches d’inférence IA. Surnommées des solutions comparables à un service de partage, ces plateformes ciblent spécifiquement l’exécution de modèles ouverts de taille modeste, laissant de côté les charges de travail les plus lourdes. Elles rejoignent ainsi des acteurs établis comme Salad, qui réunit déjà plus de 60 000 cartes graphiques grand public sur son réseau. Techniquement, Far Labs prévoit le lancement imminent de sa plateforme Far AI, promettant une latence inférieure à cent millisecondes. Son système découpe les modèles en plusieurs parties, distribuées sur différentes machines pour être ensuite recombinées par un coordinateur. Evolving Edge, déjà en phase de test ouverte, s’appuie sur Ray, un cadre logiciel open source habituellement utilisé dans les centres de données professionnels. Pour sécuriser les équipements hôtes, les deux entreprises privilégient l’isolation via des environnements virtuels fermés, avec une communication chiffrée et des plafonds stricts sur l’accès au processeur, à la mémoire et au réseau. Evolving Edge a d’ailleurs rendu son logiciel de nœud accessible au public pour permettre un audit transparent de ce qui s’exécute sur le matériel. Malgré ces avancées, la rentabilité pour les particuliers reste incertaine. L’exemple de Salad montre qu’une part importante des revenus revient à la plateforme, tandis que les détenteurs de matériel ne perçoivent qu’une fraction du chiffre d’affaires. Auparavant, les récompenses équivalaient à environ quatorze cents par dollar généré, un montant souvent dépassé par les coûts électriques engendrés par des cartes graphiques puissantes, qui peuvent atteindre une cinquantaine de dollars par mois en fonctionnement continu. Ni Far Labs ni Evolving Edge n’ont encore communiqué leurs tarifs de rémunération exacts. Les fondateurs défendent néanmoins la résilience de ce modèle décentralisé face aux pannes systémiques des infrastructures cloud centralisées. Selon Evolving Edge, la déconnexion de plusieurs milliers de nœuds n’aurait qu’un impact marginal sur le service, contrairement aux arrêts prolongés de fournisseurs majeurs. Le secteur fait toutefois face à un défi de crédibilité important. Des initiatives passées, promettant de convertir le minage de cryptomonnaies en travail IA, se sont révélées être des arnaques générant des calculs mathématiques inutiles. Bien que les nouvelles plateformes s’engagent sur des missions d’inférence réelles plutôt que sur des jetons virtuels, leurs promesses de coût et de performance resteront théoriques jusqu’à preuve par une exploitation commerciale à grande échelle. La viabilité économique et technique de ces réseaux partagés pour l’IA demeure donc à confirmer.
