DARTS-PRIME: 정규화 및 스케줄링은 미분 가능 NAS에서 제약 최적화를 향상시킨다

차별 가능한 아키텍처 탐색(DARTS)은 차별 가능한 리라크스화를 기반으로 한 최신 신경망 아키텍처 탐색(NAS) 방법이다. 이 방법의 성공에 힘입어 최근에는 DARTS 프레임워크의 일부를 분석하고 개선하는 수많은 변종이 제안되고 있다. 본 연구에서는 문제를 제약 조건이 있는 이중 최적화 문제로 간주함으로써, 아키텍처 가중치 업데이트 스케줄링 및 이산화를 위한 정규화 방향으로 개선된 DARTS-PRIME이라는 변종을 제안하고 분석한다. 우리는 미니배치 단위의 네트워크 정보를 기반으로 동적 스케줄링을 제안하여 아키텍처 업데이트를 보다 정보 기반으로 하며, 이산화가 잘 분리되도록 하는 근접 정규화(Proximity Regularization)도 도입한다. 다양한 도메인에서의 실험 결과, DARTS-PRIME은 성능과 신뢰성 측면에서 기존의 최고 수준의 차별 가능한 NAS 기법과 경쟁 가능한 성능을 보였다.