HyperAIHyperAI

Command Palette

Search for a command to run...

LLM
Tongyi Qianwen

Rig de minage à 35$ : 54 Go de VRAM font tourner une IA 35B

Un internaute de Reddit, partageant son expérience sous le pseudonyme markpronkin, a acquis pour environ 35 dollars une ancienne station de minage de cryptomonnaies abandonnée dans un garage. L'équipement, dont la rouille et l'état général laissaient présager des difficultés, a fonctionné du premier coup. Il est doté de neuf cartes graphiques Nvidia P106-100, des composants dédiés au calcul intensif pour le minage, offrant une mémoire vidéo cumulée de 54 gigaoctets. Après une vérification initiale, l'utilisateur a tenté d'exécuter en local un modèle d'intelligence artificielle de 35 milliards de paramètres, dénommé Qwen3.6-35B-A3B, à l'aide du logiciel open source Ollama. Le système a répondu avec une vitesse de génération de texte dépassant 30 tokens par seconde, une unité mesurant la quantité de texte produit à chaque intervalle de calcul. Cette réussite marque l'un des premiers tests validés pour des cartes graphiques datant de 2017 dans le domaine de l'exécution d'IA en autonomie. Cette expérience met en lumière la viabilité économique du recyclage de matériel informatique périmé pour le calcul d'intelligence artificielle. En contournant les serveurs cloud coûteux, cette configuration abordable démontre que des modèles volumineux peuvent désormais tourner sur des infrastructures locales. Pour les développeurs et les utilisateurs privilégiant la confidentialité des données, ce résultat offre une alternative concrète et peu onéreuse à l'utilisation de plateformes externes, tout en encourageant l'expérimentation matérielle dans l'écosystème des grands modèles de langage.

Liens associés