Uber s'implique dans le débat sur le tokenmaxxing
La controverse autour du « Tokenmaxxing » s'intensifie à la Silicon Valley. Andrew Macdonald, directeur des opérations d'Uber, a déclaré publiquement qu'il n'a pas encore observé que l'augmentation de l'utilisation des jetons (« tokens ») en intelligence artificielle se traduise directement par une hausse de productivité. Il a souligné que si cela pourrait indirectement favoriser le déploiement de davantage de fonctionnalités, il est difficile d'établir un lien direct avec les données indiquant une production de « 25 % de fonctionnalités supplémentaires ». Ses propos ont généré plus de 2 millions de vues sur la plateforme sociale X et marquent le début officiel d'une prise de conscience dans le secteur technologique concernant la poursuite aveugle de la quantité de jets d'IA. Le « token » constitue l'unité fondamentale de traitement pour les chatbots IA, tandis que le « Tokenmaxxing » désigne la pratique consistant à utiliser excessivement ces unités afin de démontrer sa productivité ou d'améliorer l'efficacité. Alors que les entreprises américaines accélèrent leur adoption interne de l'IA – comme Meta qui a créé un groupe de « bâtisseurs d'IA », Disney et JPMorgan Chase qui suivent l'utilisation par leurs employés –, cette tendance gagne du terrain. Cependant, elle suscite de vives inquiétudes quant au gaspillage. Selon des rapports, Uber aurait épuisé son budget annuel dédié à l'IA dès les quatre premiers mois de l'année. De nombreux ingénieurs affirment qu'un grand nombre de tokens sont gaspillés sans apporter de retour significatif sur investissement. Sundar Pichai, PDG de Google, a également mis en garde lors d'une conférence récente destinée aux développeurs : les responsables informatiques des entreprises redoutent désormais une consommation trop rapide de leurs budgets, et ce problème devrait empirer avant la fin de l'année. En conséquence, l'investisseur renommé Michael Burry a même prévenu que la bulle de l'IA pourrait éclater, faisant peser des risques de baisse sur les actions de Nvidia. Néanmoins, certains soutiennent toujours ce concept. Gary Tan, PDG de Y Combinator, a reconnu que son entreprise pratiquait déjà depuis longtemps le « Tokenmaxxing ». Toutefois, selon un rapport publié par l'entreprise spécialisée dans l'ingénierie intelligente Jellyfish, la clé réside dans l'équilibre : les meilleurs développeurs consomment dix fois plus de tokens que la moyenne, mais ne produisent que deux fois plus. Le rapport recommande donc aux entreprises de ne ni récompenser ni pénaliser uniquement la consommation de tokens, mais plutôt de lier les coûts à des indicateurs concrets tels que les demandes de fusion de code, afin de garantir que les investissements en IA soient véritablement rentables.
