HyperAIHyperAI

Command Palette

Search for a command to run...

零样本音频描述与音频-语言模型引导及音频上下文关键词

Leonard Salewski Stefan Fauth A. Sophia Koepke Zeynep Akata

摘要

零样本音频字幕生成旨在自动为音频内容生成描述性的文字字幕,而无需为此任务进行预先训练。不同于将包含口语的音频内容转换为文本的语音识别,音频字幕生成通常关注环境声音或人类执行动作时产生的声音。受零样本图像字幕生成方法的启发,我们提出了一种新的框架ZerAuCap,用于在无需特定任务训练的情况下对这类通用音频信号进行文字总结。具体而言,我们的框架利用了一个预训练的大规模语言模型(LLM),该模型在预训练的音-语模型的引导下生成描述音频内容的字幕。此外,我们还使用了音频上下文关键词来提示语言模型生成与声音广泛相关的文本。我们在AudioCaps和Clotho数据集上实现了零样本音频字幕生成的最先进结果。我们的代码可在https://github.com/ExplainableML/ZerAuCap 获取。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供