HyperAIHyperAI

Command Palette

Search for a command to run...

Au-delà du Transformer universel : réutilisation de blocs avec adaptateur dans le Transformer pour la reconnaissance automatique de la parole

Haoyu Tang Zhaoyi Liu Chang Zeng Xinfeng Li

Résumé

Les modèles basés sur Transformer ont récemment obtenu des résultats significatifs dans le domaine de la reconnaissance automatique de la parole (ASR) en mode end-to-end (E2E). Il devient désormais possible de déployer des systèmes ASR E2E sur des dispositifs intelligents grâce à ces modèles basés sur Transformer. Toutefois, ces modèles souffrent encore d’un inconvénient majeur : leur nécessité d’un grand nombre de paramètres. Afin de surmonter cette limitation des modèles Transformer universels dans le contexte du déploiement d’ASR sur des dispositifs à la périphérie (edge devices), nous proposons une solution permettant de réutiliser les blocs au sein des modèles Transformer pour des systèmes ASR à faible empreinte, tout en respectant l’objectif d’adaptation aux contraintes de ressources sans compromettre la précision de reconnaissance. Plus précisément, nous avons conçu une nouvelle stratégie de réutilisation de blocs pour les Transformers vocaux (BRST), visant à améliorer l’efficacité des paramètres, et introduit un module adaptateur (ADM) capable de générer un modèle compact et adaptable en n’ajoutant qu’un nombre réduit de paramètres entraînables à chaque bloc réutilisé. Des expérimentations menées sur le corpus public AISHELL-1 ont montré que la méthode proposée atteint un taux d’erreur de caractères (CER) de 9,3 %/6,63 % avec seulement 7,6 M/8,3 M paramètres, respectivement sans et avec l’ADM. En outre, une analyse approfondie a été réalisée afin d’évaluer l’impact du module ADM dans le cadre général de la réutilisation de blocs.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp