HyperAIHyperAI

Command Palette

Search for a command to run...

学习上下文敏感的卷积滤波器用于文本处理

Dinghan Shen Martin Renqiang Min Yitong Li Lawrence Carin

摘要

卷积神经网络(CNNs)最近作为自然语言处理(NLP)中的一个流行构建模块而崭露头角。尽管取得了成功,但大多数现有的应用于NLP的CNN模型对所有输入句子使用相同的已学习(且静态的)滤波器集。在本文中,我们探讨了一种使用小型元网络来学习文本处理的情境感知卷积滤波器的方法。元网络的作用是将句子或文档的情境信息抽象为一组输入感知滤波器。我们进一步将这一框架扩展到句对建模,引入了双向滤波器生成机制,以封装相互依赖的句子表示。在包括本体分类、情感分析、答案句子选择和同义句识别在内的四项不同任务的基准测试中,我们提出的带有情境感知滤波器的改进型CNN模型始终优于标准CNN和基于注意力机制的CNN基线模型。通过可视化所学的情境感知滤波器,我们进一步验证并解释了所提框架的有效性。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供