7일 전

베타랭크: 불균형한 의료 영상 분석을 위한 강건한 컨볼루션 필터 프루닝 방법

Morteza Homayounfar, Mohamad Koohi-Moghadam, Reza Rawassizadeh, Varut Vardhanabhuti
베타랭크: 불균형한 의료 영상 분석을 위한 강건한 컨볼루션 필터 프루닝 방법
초록

심층 신경망은 파라미터와 연산의 수가 매우 많기 때문에 계산 자원이 제한된 장치에 이러한 모델을 구현하는 것은 도전 과제가 된다. 자원 효율적인 모델을 위한 새로운 절단 기법들이 개발되었음에도 불구하고, 이러한 모델이 '불균형한 데이터'와 '데이터 포인트 수가 제한된 상황'을 효과적으로 처리하지 못한다는 점이 명확해졌다. 본 연구에서는 필터의 입력 및 출력 정보와 필터 내부 값뿐 아니라, 필터가 데이터에 미치는 영향의 변화를 고려하여, 불균형 데이터셋에 더 우수한 성능을 발휘하는 새로운 필터 절단 방법을 제안한다. 제안한 절단 방법은 필터의 중요도가 단순히 필터 값 자체에만 반영되는 것은 아니라는 점을 인식한다. 대신, 필터가 적용된 후 데이터에 발생하는 변화가 필터의 중요도를 더 잘 반영한다고 보는 것이다. 본 연구에서는 동일한 학습 조건 하에서 세 가지 방법을 순위 값의 차이만을 제외하고 비교하였으며, 다른 논문에서 제안된 14가지 방법과도 비교하였다. 그 결과, 본 모델이 불균형한 의료 데이터셋에서 기존 방법들보다 유의미하게 우수한 성능을 보임을 입증하였다. 예를 들어, IDRID 데이터셋에서는 최대 58%의 FLOPs를 제거해도 기준 모델과 동등하거나 더 우수한 성능을 달성하였고, ISIC 데이터셋에서는 최대 45%의 FLOPs를 줄였을 때에도 유사한 결과를 얻을 수 있었다. 실제 환경에서 FLOPs 및 파라미터 감소 효과를 평가하기 위해 스마트폰 앱을 구축하였으며, 이에서 메모리 사용량은 최대 79% 감소하고 예측 시간은 최대 72% 단축되는 것을 실험적으로 확인하였다. 다양한 모델 학습을 위한 모든 코드와 파라미터는 https://github.com/mohofar/Beta-Rank 에 공개되어 있다.