HyperAIHyperAI

Command Palette

Search for a command to run...

il y a 18 jours
IA Générative
LLM

Legora refuse le tokenmaxxing

Jacob Lauritzen, directeur technologique de Legora, une startup spécialisée dans l'intelligence artificielle juridique, a critiqué la pratique du tokenmaxxing lors d'une récente émission de podcast. Ce terme désigne l'utilisation excessive d'outils d'IA, générant un nombre important de jetons de calcul, simplement pour améliorer son classement sur les tableaux de bord internes et impressionner la hiérarchie. Selon Lauritzen, récompenser le volume de jetons consommés lors des évaluations professionnelles est une approche inefficace qui incite les employés à gaspiller des ressources sans apporter de valeur réelle. Le dirigeant recommande à la place des méthodes plus pertinentes pour stimuler l'adoption de l'IA, telles que des journées de création ou des démonstrations de projets. Il estime que les entreprises devraient récompenser l'efficacité et le gain de productivité, et non la simple consommation de technologie. Reconnaissant le coût d'opportunité élevé associé à l'absence d'IA pour les entreprises en croissance rapide, il souligne que les investissements restent nécessaires, à condition d'être orientés vers des résultats mesurables. Ses observations reflètent une tendance plus large au sein du secteur technologique, qui passe progressivement de l'incitation au volume à un contrôle strict des dépenses. Plusieurs grandes entreprises ont récemment constaté que leurs tableaux de bord de suivi des utilisations d'IA produisaient l'effet inverse, incitant au gaspillage plutôt qu'à l'innovation. En réponse, Uber a récemment plafonné à 1 500 dollars par mois et par outil les dépenses en jetons d'IA pour l'ensemble de ses collaborateurs, suite à un dépassement budgétaire plus tôt dans l'année. De même, Amazon a fermé un tableau de bord interne après avoir constaté que certains employés manipulaient le système pour grimper au classement sans réelle justification professionnelle. Cette évolution vers la limitation des ressources est également soutenue par d'autres acteurs du secteur. Andrew Feldman, dirigeant de Cerebras Systems, a qualifié de contre-productif l'octroi de jetons illimités aux employés. Il recommande d'adapter le niveau de puissance de l'IA aux besoins réels, en privilégiant des modèles moins coûteux pour les tâches courantes, afin d'optimiser les coûts sans sacrifier l'efficacité. Le mouvement actuel marque un tournant stratégique pour les entreprises qui intègrent l'IA. Plutôt que de mesurer le succès par le nombre d'interactions générées, les organisations redéfinissent leurs indicateurs de performance pour aligner l'utilisation des outils sur la création de valeur, la maîtrise des budgets et l'innovation concrète. Cette transition vise à instaurer une culture de l'IA responsable, où la technologie sert un objectif précis et où les ressources sont allouées de manière rationnelle.

Liens associés

Legora refuse le tokenmaxxing | Articles tendance | HyperAI