HyperAIHyperAI

Command Palette

Search for a command to run...

Auto-Attention pour la Sur-résolution Audio

Nathanaël Carraz Rakotonirina

Résumé

Les convolutions opèrent uniquement de manière locale, ce qui les empêche de modéliser les interactions globales.En revanche, l'auto-attention est capable d'apprendre des représentations qui capturent les dépendances à longue portée dans les séquences.Nous proposons une architecture de réseau pour la sur-résolution audio qui combine les convolutions et l'auto-attention.Le module d'Attention basé sur la Modulation Linéaire par Caractéristique (AFiLM) utilise le mécanisme d'auto-attention au lieu des réseaux neuronaux récurrents pour moduler les activations du modèle convolutionnel.De nombreuses expériences montrent que notre modèle surpasse les approches existantes sur des benchmarks standards.De plus, il permet une plus grande parallélisation, ce qui entraîne un entraînement significativement plus rapide.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp