초록
이산 푸리에 변환은 딥 러닝에서 합성곱의 계산을 크게 가속화시킵니다. 본 연구에서는 효율적인 계산의 이점 외에도 스펙트럼 영역이 합성곱 신경망(CNNs)을 모델링하고 학습하는 데 강력한 표현을 제공함을 보여줍니다. 우리는 스펙트럼 표현을 사용하여 CNN 설계에 여러 혁신을 도입합니다. 첫째, 주파수 영역에서 표현을 절단하여 차원 축소를 수행하는 스펙트럼 풀링(spectral pooling)을 제안합니다. 이 방법은 다른 풀링 전략보다 매개변수당 더 많은 정보를 유지하며, 풀링 출력 차원 선택의 유연성을 제공합니다. 또한 이 표현은 해상도를 무작위로 수정하여 새로운 형태의 확률적 정규화를 가능하게 합니다. 우리는 이러한 방법들이 드롭아웃이나 맥스 풀링 없이도 분류 및 근사 작업에서 경쟁력 있는 결과를 달성함을 보여주었습니다. 마지막으로, 복소계수 스펙트럼 매개변수화(complex-coefficient spectral parameterization)가 합성곱 필터에 효과적임을 입증합니다. 이는 기존 모델에는 변화를 주지 않지만, 최적화를 크게 용이하게 하는 표현으로 이어집니다. 다양한 인기 있는 CNN 구성을 통해 이 접근법이 훈련 중에 상당히 빠른 수렴을 초래함을 관찰하였습니다.