Audio Flamingo : Un Nouveau Modèle de Langue Audio avec Apprentissage par Quelques Exemples et Capacités de Dialogue

L'amélioration des grands modèles de langage (LLMs) pour comprendre l'audio, y compris les sons non verbaux et la parole non verbale, est d'une importance cruciale pour diverses applications réelles des LLMs. Dans cet article, nous proposons Audio Flamingo, un nouveau modèle de langage audio doté de 1) de solides capacités de compréhension audio, 2) de la capacité d'adapter rapidement à des tâches inconnues grâce à l'apprentissage en contexte et à la récupération, et 3) de solides capacités de dialogue multi-tours. Nous présentons une série de techniques d'entraînement, de conceptions architecturales et de stratégies de données pour renforcer notre modèle avec ces capacités. Des évaluations approfondies sur diverses tâches de compréhension audio confirment l'efficacité de notre méthode, établissant de nouveaux standards en matière de performance. Notre site web démonstratif est disponible à l'adresse https://audioflamingo.github.io/ et le code source est librement accessible sur https://github.com/NVIDIA/audio-flamingo.