摘要
离散傅里叶变换在深度学习中为卷积计算提供了显著的加速。在这项工作中，我们展示了除了高效的计算优势外，频谱域还为建模和训练卷积神经网络（CNNs）提供了一种强大的表示方法。我们利用频谱表示引入了多项创新的CNN设计。首先，我们提出了频谱池化（spectral pooling），通过在频率域中截断表示来实现降维。这种方法在每个参数上保留了更多的信息，并且允许灵活选择池化的输出维度。此外，这种表示还支持一种新的随机正则化方法，即通过对分辨率进行随机修改来实现。我们证明了这些方法在分类和逼近任务中取得了具有竞争力的结果，而无需使用任何dropout或最大池化（max-pooling）。最后，我们展示了复数系数频谱参数化（complex-coefficient spectral parameterization）对卷积滤波器的有效性。尽管这不会改变底层模型，但这种表示极大地促进了优化过程。我们在多种流行的CNN配置上观察到，这导致了训练过程中显著更快的收敛速度。