성별 편향을 줄이기 위한 얼굴 인식에서 von Mises-Fisher 혼합 모델의 활용

일상적인 다양한 응용 분야에서 딥러닝 알고리즘의 높은 성능과 신뢰성에도 불구하고, 많은 연구들은 많은 모델이 특정 인구 하위 집단(예: 성별, 인종)에 대해 편향을 보이고 있음을 시사하고 있다. 이는 감정적·윤리적 측면에서 중요한 문제를 제기하며, 특히 민감한 집단 간에 균일하거나 비교 가능한 성능을 보이는 공정한 시스템을 개발할 필요성을 강조한다. 본 연구에서는 딥 페이스 인식 네트워크의 성별 편향을 탐구한다. 이러한 편향을 측정하기 위해, 페이스 인식 시스템의 실제 배포 환경에서의 요구사항을 더 잘 반영하는 두 가지 새로운 지표인 $\mathrm{BFAR}$ (Bias-Focused False Acceptance Rate)와 $\mathrm{BFRR}$ (Bias-Focused False Rejection Rate)를 제안한다. 기하학적 고려에 기반하여, 사전 학습된 모델의 딥 임베딩을 변환함으로써 차별받는 하위 집단에 더 큰 표현력을 부여하는 새로운 후처리 방법론을 제시한다. 이 방법은 각 성별의 클래스 내 분산을 고려한 Fair von Mises-Fisher 손실을 최소화하는 얕은 신경망을 학습하는 것으로 구성되며, 이 손실의 하이퍼파라미터는 각 성별의 내부 분산을 반영한다. 흥미롭게도, 우리는 이러한 하이퍼파라미터들이 공정성 지표와 상관관계가 있음을 실험적으로 관찰하였다. 실제로 다양한 데이터셋을 대상으로 수행한 광범위한 수치 실험 결과, 이러한 하이퍼파라미터를 신중하게 선택함으로써 성별 편향이 크게 감소함을 확인하였다. 실험에 사용된 코드는 https://github.com/JRConti/EthicalModule_vMF 에서 확인할 수 있다.