基于有效感受野的坏点测试

深度神经网络已在多个领域得到广泛应用，但其内部工作机制尚不明确。在本研究中，我们探讨了卷积神经网络（CNN）的两种反直觉行为。首先，我们评估了感受野（receptive field）的大小。以往研究致力于增大或调控感受野的尺寸，然而我们发现，感受野的大小并不能有效反映分类准确率。将感受野大小作为性能优劣的表征指标并不恰当，因为它仅反映网络的深度或卷积核尺寸，而未能体现宽度（width）或基数（cardinality）等其他关键因素的影响。其次，我们基于有效感受野（effective receptive field）分析了对输出有贡献的像素。直观上，每个输入像素应对最终输出具有相似的贡献。然而，我们发现部分像素处于“部分失活”状态，对输出的贡献微乎其微。我们揭示，这一现象的根本原因在于CNN的网络结构，并进一步探讨了缓解该问题的解决方案。有趣的是，在常规分类任务中，这类失活像素的存在反而有助于CNN的训练过程；但在需要捕捉微小扰动的任务中，失活像素会降低模型性能。因此，在CNN的实际应用中，必须充分认识并考虑此类失活像素的存在及其影响。