Underdog démontre Woof, modèle vocal de 32 Mo en local

La startup Underdog a présenté un nouveau modèle de génération de parole, Woof, d’une taille de seulement 32 mégaoctets. Contrairement aux grands systèmes d’intelligence artificielle qui dépendent souvent de puissantes infrastructures en ligne, ce modèle peut fonctionner dans un navigateur web, y compris sur des appareils grand public et sans connexion internet. Il compte 31 millions de paramètres et est disponible librement au téléchargement. Pour illustrer ses capacités, Underdog a mis en ligne une démo interactive sous forme de mini-jeu. L’utilisateur peut taper du texte sur une machine à écrire fictive et entendre le modèle le restituer vocalement. L’expérience comprend aussi une lampe dont la manette produit un son et un tuner permettant de générer différentes ambiances musicales. La démonstration met en avant une exécution locale des fonctionnalités, en opposition aux modèles hébergés dans le cloud. Le fondateur de l’entreprise, Sigil Wen, explique que cette approche vise à donner aux utilisateurs davantage de contrôle sur leurs données. Il souhaite proposer des modèles ouverts, performants et capables de tourner directement sur les appareils des personnes, plutôt que de les confier exclusivement à des services en ligne. Selon lui, une grande partie des modèles les plus performants du moment pourrait, à terme, fonctionner sur les ordinateurs ou téléphones existants dans un délai proche de quelques mois. Woof s’inscrit dans une série de projets similaires chez Underdog. L’entreprise avait déjà dévoilé Bark, un modèle de transcription vocale de 167 mégaoctets conçu pour fonctionner en local sur des appareils mobiles ou de bureau, avec pour cas d’usage la transcription et la dictée. En parallèle, la société indique avoir publié un modèle plus large de 27 milliards de paramètres destiné à s’exécuter sur des ordinateurs portables, ainsi qu’une application actuellement accessible par liste d’attente et présentée comme une alternative locale à d’autres assistants reposant sur des services distants. Si ces petits modèles ne remplacent pas les systèmes massifs utilisés par les grandes plateformes d’IA, ils pourraient suffire pour des assistant locaux, des outils de productivité, des expériences personnalisées ou des contenus audio générés directement sur l’appareil de l’utilisateur.