CNN 기반 이미지 분류에서 점별 합성곱의 복잡도를 감소시키기 위한 개선된 방안: 나누어떨어짐 제약 조건이 없는 교차 그룹화 필터 기반

딥 컨볼루션 신경망(DCNNs)을 이용한 이미지 분류에서, 포인트와이즈 컨볼루션의 파라미터 수는 이전 레이어에서 입력되는 채널 수와 필터 수의 곱으로 인해 급격히 증가한다. 기존 연구들은, 학습 능력을 유지하면서도 파라미터 수와 부동소수점 연산 수를 크게 줄일 수 있는 서브넷이 포인트와이즈 컨볼루션 레이어를 대체할 수 있음을 보여주었다. 본 논문에서는 나누어떨어짐 조건 없이도 적용 가능한 교차 그룹화 필터를 활용한 포인트와이즈 컨볼루션의 복잡도를 줄이는 개선된 기법을 제안한다. 제안된 기법은 각 그룹이 입력 채널의 일부를 처리하는 그룹화된 포인트와이즈 컨볼루션을 사용하며, 그룹당 채널 수를 하이퍼파라미터 Ch로 설정한다. 제안된 서브넷은 중간에 교차 연결 레이어를 두고 연결된 두 개의 연속된 컨볼루션 레이어 K와 L로 구성되며, 최종적으로 출력이 더해진다. 레이어 K와 L의 필터 그룹 수 및 그룹당 필터 수는 원래 입력 채널 수와 필터 수를 Ch로 정확히 나누어 결정된다. 만약 나눗셈이 정확하지 않으면 기존 레이어를 대체할 수 없었다. 본 논문에서는 이전 알고리즘을 보완하여, 입력 채널을 복제하고 그룹별 필터 수를 다르게 설정함으로써 정확한 나누어떨어짐이 보장되지 않는 경우에도 대응할 수 있도록 하였다. 이를 통해 이전 방법 대비 부동소수점 연산 수를 11% 추가로 감소시키고, 학습 가능한 파라미터 수도 10% 감소시켰다. 본 최적화 기법은 기준 아키텍처로 EfficientNet-B0를 사용하여 CIFAR-10, 대장암 조직학, 말라리아 데이터셋에서 분류 실험을 수행하였다. 각 데이터셋에서 EfficientNet-B0 대비 학습 가능한 파라미터 수를 각각 76%, 89%, 91% 감소시키면서도 테스트 분류 정확도를 유지하였다.