3달 전

소프트맥스 크로스엔트로피와 음성 샘플링의 통합적 해석: 지식 그래프 임베딩에 대한 사례 연구

Hidetaka Kamigaito, Katsuhiko Hayashi
소프트맥스 크로스엔트로피와 음성 샘플링의 통합적 해석: 지식 그래프 임베딩에 대한 사례 연구
초록

지식 그래프 임베딩 분야에서 소프트맥스 크로스엔트로피 손실 함수와 음성 샘플링 손실 함수 간의 이론적 관계는 아직 탐구되지 않았다. 이로 인해 두 가지 다른 손실 함수의 결과를 공정하게 비교하는 것이 어렵다. 본 연구에서는 브레그만 발산(Bregman divergence)을 활용하여 소프트맥스 크로스엔트로피 손실 함수와 음성 샘플링 손실 함수를 통합적으로 해석함으로써 이 문제를 해결하고자 하였다. 이러한 해석을 기반으로 공정한 비교를 위한 이론적 결과를 도출할 수 있다. FB15k-237 및 WN18RR 데이터셋에서의 실험 결과는 이론적 발견이 실제 환경에서도 타당함을 입증한다.