11일 전

텐서 분해 기반 지식 그래프 완성에 대한 이중성 유도 정규화 항

Zhanqiu Zhang, Jianyu Cai, Jie Wang
텐서 분해 기반 지식 그래프 완성에 대한 이중성 유도 정규화 항
초록

텐서 분해 기반 모델은 지식 그래프 완성(KGC)에서 큰 성능을 보여주고 있다. 그러나 이러한 모델의 성능은 일반적으로 과적합 문제로 인해 심각하게 저하된다. 이를 해결하기 위해 제곱 프로베니우스 노름과 텐서 핵노름 정규화 기법 등 다양한 정규화 기법이 제안되었으나, 그 적용 범위가 제한적이어서 실용적인 활용에 한계가 있다. 이 문제를 해결하기 위해, 기존 모델의 성능 향상에 효과적이면서도 다양한 방법에 광범위하게 적용 가능한 새로운 정규화 기법인 DUality-induced RegulArizer(DURA)를 제안한다. DURA의 주요 혁신점은 기존 텐서 분해 기반 KGC 모델(원모델, primal)과 그와 밀접하게 연결된 거리 기반 KGC 모델(이중모델, dual)이 자주 존재한다는 관찰에 기반하고 있다. 실험 결과, DURA는 다양한 벤치마크에서 일관되고 두드러진 성능 향상을 나타냈다.

텐서 분해 기반 지식 그래프 완성에 대한 이중성 유도 정규화 항 | 최신 연구 논문 | HyperAI초신경