2 个月前

SMPConv:连续卷积的自移动点表示方法

Sanghyeon Kim; Eunbyung Park
SMPConv:连续卷积的自移动点表示方法
摘要

连续卷积最近因其处理非规则采样数据和建模长程依赖关系的能力而受到广泛关注。此外,使用大卷积核的实验结果令人鼓舞,这促进了连续卷积的发展,因为它们可以非常高效地构建大核。目前,利用神经网络,特别是多层感知器(MLP),是最常见的实现连续卷积的方法。然而,这种方法存在一些缺点,如计算成本高、超参数调整复杂以及滤波器描述能力有限。本文提出了一种不依赖神经网络的连续卷积构建方法,从而实现了更高的计算效率和性能提升。我们介绍了自移动点表示法,其中权重参数可以自由移动,并使用插值方案来实现连续函数。当应用于构建卷积核时,实验结果显示在现有框架中直接替换的情况下性能有所提高。由于其轻量级结构,我们在大规模场景下首次展示了连续卷积的有效性,例如在ImageNet上展示了相对于先前技术的改进。我们的代码已发布在 https://github.com/sangnekim/SMPConv 上。