시각적 대응 기반 설명은 AI의 강건성과 인간-AI 팀의 정확도를 향상시킨다

인공지능(AI) 예측에 대한 설명은 인간이 최종 의사결정을 내리는 여러 고위험 적용 분야에서 점점 더 중요하고, 때로는 필수적인 요소가 되고 있다. 본 연구에서는 질의 이미지와 예시 이미지 간의 시각적 대응 관계를 활용하여, 먼저 설명을 하고 그 다음에 예측을 수행하는(후행적 설명이 아닌) 두 가지 새로운 자기 해석 가능한 이미지 분류기 아키텍처를 제안한다. 제안된 모델은 ResNet-50과 k-최근접이웃 분류기(kNN)보다 분포 내 테스트에서는 약 1~2점 정도 성능이 낮지만, 분포 외(OOD) 데이터셋에서는 일관되게 1~4점 향상된 성능을 보였다. ImageNet과 CUB에서 대규모 인간 실험을 수행한 결과, 본 연구에서 제안하는 대응 기반 설명은 kNN 기반 설명보다 사용자에게 훨씬 더 유용한 것으로 확인되었다. 또한, 제안된 설명 방식은 다른 모든 비교 방법들과 비교해 AI의 잘못된 판단을 더 정확하게 거부하는 데 도움이 되었다. 흥미롭게도, 본 연구에서는 ImageNet과 CUB 이미지 분류 과제에서 인간과 AI가 협력하여 기존의 AI 단독 또는 인간 단독 성능을 초월하는 보완적 인간-AI 팀의 정확도를 달성할 수 있음을 최초로 입증하였다.