퍼셉추얼 매니폴드의 곡률을 이용한 DNN의 공정성 예측 및 향상

장꼬리 분류 문제를 해결하기 위해 연구자들은 모델 편향을 줄이기 위한 여러 접근법을 제안해 왔으며, 대부분의 방법은 샘플 수가 적은 클래스가 약한 클래스라고 가정한다. 그러나 최근 연구들은 꼬리 클래스가 항상 학습이 어려운 것은 아니며, 샘플이 균형 잡힌 데이터셋에서도 모델 편향이 관찰된다는 점을 보여주었고, 이는 모델 편향에 영향을 미치는 다른 요인이 존재함을 시사한다. 본 연구에서는 모델 공정성 분석을 위한 기하학적 관점을 제안한 후, 딥 네트워크 내 감각 다층 공간( perceptual manifolds )에 대한 일련의 기하학적 측정법을 체계적으로 제안한다. 이후 우리는 감각 다층 공간의 기하학적 특성이 분류 난이도에 미치는 영향과 학습 과정이 이러한 기하학적 특성을 어떻게 형성하는지를 종합적으로 탐구한다. 예상치 못한 발견은, 학습 과정 중 클래스 정확도와 감각 다층 공간의 분리 정도 간의 상관관계가 점차 감소하는 반면, 곡률과의 음의 상관관계는 점점 증가한다는 점이다. 이는 곡률의 불균형이 모델 편향을 초래함을 시사한다. 이러한 관찰을 바탕으로, 곡률 균형을 갖는 더 평탄한 감각 다층 공간을 학습하도록 돕는 곡률 정규화(curvature regularization)를 제안한다. 다양한 장꼬리 및 비장꼬리 데이터셋에서의 평가 결과, 본 방법은 뛰어난 성능과 놀라운 일반화 능력을 보였으며, 특히 현재 최상의 기술 기반에서 상당한 성능 향상을 달성함을 확인할 수 있었다. 본 연구는 모델 편향에 대한 기하학적 분석 관점을 제시하며, 연구자들이 장꼬리 데이터셋뿐만 아니라 비장꼬리 데이터셋, 심지어 샘플이 균형 잡힌 데이터셋에서도 모델 편향에 주목해야 함을 상기시킨다.