2달 전

신경망 근접 이웃 네트워크

Tobias Plötz; Stefan Roth
신경망 근접 이웃 네트워크
초록

자연 신호의 자기 유사성을 활용하는 비국소적 방법은 이미지 분석 및 복원 등에서 많이 연구되어 왔습니다. 그러나 기존 접근 방식은 고정된 특성 공간에서 k-최근접 이웃(KNN) 매칭에 의존합니다. 이 특성 공간을 응용 성능에 대해 최적화하는 데 주요 장애물은 KNN 선택 규칙의 미분 불가능성입니다. 이를 극복하기 위해, 쌍별 거리에 대한 미분 가능성을 유지하면서도 온도 매개변수가 0으로 접근할 때 원래 KNN을 한계로 가지는 연속적인 결정론적 KNN 선택의 완화를 제안합니다. 우리의 완화를 활용하기 위해, 자기 유사성 원리를 활용하고 현대 신경망 구조에서 구성 요소로 사용될 수 있는 새로운 비국소적 처리 계층인 신경 최근접 이웃 블록(N3 블록)을 제안합니다. 우리는 대응 분류와 같은 집합 추론 과제 및 이미지 복원(이미지 노이즈 제거와 단일 이미지 초해상도 포함)에서 강력한 합성곱 신경망(CNN) 베이스라인과 수동으로 선택된 특성 공간에서 KNN 선택에 의존하는 최근 비국소적 모델들을 능가하는 효과를 보여주었습니다.

신경망 근접 이웃 네트워크 | 최신 연구 논문 | HyperAI초신경