16일 전

확률적 수치 컨볼루션 신경망

Marc Finzi, Roberto Bondesan, Max Welling
확률적 수치 컨볼루션 신경망
초록

이미지 및 시계열과 같은 연속적인 입력 신호는 비정기적으로 샘플링되거나 누락된 값을 포함하는 경우 기존의 딥러닝 방법에 도전 과제가 된다. 일관된 특징 표현은 입력 영역의 관측되지 않은 부분에 해당하는 값에 의존해야 한다. 확률적 수치 계산(probabilistic numerics) 분야의 연구를 바탕으로, 우리는 특징을 가우시안 과정(Gaussian processes, GPs)으로 표현하는 확률적 수치 컨볼루션 신경망(Probabilistic Numeric Convolutional Neural Networks)을 제안한다. 이는 이산화 오차에 대한 확률적 설명을 제공한다. 이후 우리는 이 GP 위에서 정의된 편미분방정식(PDE)의 진화로 컨볼루션 계층을 정의하고, 그 후 비선형 변환을 적용한다. 이러한 접근법은 회전군 등에 대한 회전 불변성(convolutional equivariance)을 자연스럽게 수용할 수 있다. 실험을 통해 제안한 방법이 SuperPixel-MNIST 데이터셋에서 기존 최고 성능 대비 오차를 3배 감소시키며, 의료 시계열 데이터셋인 PhysioNet2012에서도 경쟁 가능한 성능을 보임을 확인하였다.

확률적 수치 컨볼루션 신경망 | 최신 연구 논문 | HyperAI초신경