15일 전

조건부 시계열 신경 과정과 공분산 손실

{Jaesik Choi, Soyeon Kim, Seijun Chung, Janghoon Ju, Jiwoo Lee, Boseon Yoo}
조건부 시계열 신경 과정과 공분산 손실
초록

우리는 조건부 신경 과정(conditional neural processes)과 개념적으로 동등하며, 다양한 종류의 신경망에 적용 가능한 정규화 형태를 갖는 새로운 손실 함수인 공분산 손실(Covariance Loss)을 제안한다. 제안된 손실 함수를 사용하면 입력 변수에서 목표 변수로의 사상(mapping)이 목표 변수 간의 종속성뿐만 아니라 입력 변수와 목표 변수의 평균 활성도 및 평균 종속성에 의해 크게 영향을 받는다. 이러한 특성은 결과적으로 신경망이 노이즈가 있는 관측치에 더 강건해지고 사전 정보로부터 사라진 종속성을 재구성할 수 있도록 한다. 제안된 공분산 손실의 타당성을 입증하기 위해, 최신 기술 수준의 모델을 활용하여 실세계 데이터셋에서 광범위한 실험을 수행하고, 제안된 공분산 손실의 장점과 단점을 논의한다.

조건부 시계열 신경 과정과 공분산 손실 | 최신 연구 논문 | HyperAI초신경