HyperAIHyperAI

Command Palette

Search for a command to run...

解耦动态滤波网络

Jingkai Zhou Varun Jampani Zhixiong Pi Qiong Liu Ming-Hsuan Yang

摘要

卷积是卷积神经网络(CNN)架构中的基本构建模块之一。尽管应用广泛,标准卷积仍存在两大主要缺陷:缺乏内容感知性(content-agnostic)以及计算开销大。动态卷积滤波器虽具备内容自适应能力,但进一步加剧了计算负担。深度可分离卷积(depth-wise convolution)是一种轻量化变体,但通常会导致CNN性能下降,或需要增加通道数以弥补性能损失。本文提出了一种解耦动态滤波器(Decoupled Dynamic Filter, DDF),能够同时解决上述两个问题。受近期注意力机制研究的启发,DDF将深度可分离动态滤波器分解为空间动态滤波器与通道动态滤波器两部分。该分解方式显著减少了参数量,并将计算成本控制在与深度可分离卷积相当的水平。与此同时,我们在分类网络中用DDF替代标准卷积,观察到性能显著提升:ResNet50和ResNet101在top-1准确率上分别提升了1.9%和1.3%,而计算成本则几乎降低了一半。在目标检测与联合上采样网络上的实验也表明,DDF上采样变体(DDF-Up)在性能上显著优于标准卷积以及现有的专用内容自适应层。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供