초록
최근 딥러닝과 컴퓨터 비전 분야의 발전으로 자동 의료 영상 분석에 있어 많은 장벽이 해소되었으며, 알고리즘이 레이블이 없는 이미지를 처리하고 성능을 향상시킬 수 있게 되었다. 그러나 기존 기술들은 극도로 높은 계산 자원을 요구하며, 배치 크기나 학습 에포크 수가 감소할 경우 성능이 크게 저하되는 문제가 있다. 본 논문에서는 트랜스포머(Transformer)와 CNN을 동시에 활용하는 새로운 자기지도 학습 방법인 크로스 아키텍처-자기지도 학습(Cross Architectural - Self Supervision, CASS)을 제안한다. 기존 최첨단 자기지도 학습 기법들과 비교하여, 네 가지 다양한 데이터셋에서 CASS로 훈련된 CNN과 트랜스포머는 레이블이 1%만 존재하는 경우 평균 3.8% 향상, 10% 레이블일 경우 5.9% 향상, 100% 레이블일 경우 10.13% 향상된 성능을 보였으며, 학습 시간은 69% 감소하였다. 또한 CASS가 배치 크기나 학습 에포크 수의 변화에 더 뛰어난 내성을 갖는다는 점을 입증하였다. 특히, 실험 데이터셋 중 하나는 자가면역 질환의 조직병리학 슬라이드로, 의료 영상 분야에서 데이터가 극히 부족하고 대표성이 낮았던 분야를 포함하고 있다. 본 연구의 코드는 오픈소스로 공개되어 GitHub에서 접근 가능하다.