17일 전

HyperShot: 커널 하이퍼네트워크를 통한 소수 샘플 학습

Marcin Sendera, Marcin Przewięźlikowski, Konrad Karanowski, Maciej Zięba, Jacek Tabor, Przemysław Spurek
HyperShot: 커널 하이퍼네트워크를 통한 소수 샘플 학습
초록

소수 예제 모델은 주어진 작업에서 최소한의 레이블링된 예제를 이용하여 예측을 수행하는 것을 목표로 한다. 이 분야에서 가장 큰 도전 과제는 클래스당 단 하나의 예제만 존재하는 원샷 설정이다. 본 연구에서는 커널과 하이퍼넷워크 파라다임의 융합을 제안하는 HyperShot을 제시한다. 기존의 기준 접근 방식이 파라미터에 대해 기울기 기반 조정을 적용하는 것과 달리, 본 모델은 작업의 임베딩에 따라 분류 모듈의 파라미터를 전환하는 것을 목표로 한다. 실질적으로, 지원 데이터로부터 요약된 정보를 입력으로 받아 고려 중인 문제에 맞게 설계된 분류기 파라미터를 출력하는 하이퍼넷워크를 활용한다. 더불어, 하이퍼넷워크에 전달되는 지원 예제의 커널 기반 표현을 도입하여 분류 모듈의 파라미터를 생성한다. 결과적으로, 백본 모델이 제공하는 직접적인 특징값이 아닌, 지원 예제의 임베딩 간의 관계에 기반하여 모델을 구성한다. 이러한 접근 덕분에 본 모델은 매우 다양한 작업에 유연하게 적응할 수 있다.

HyperShot: 커널 하이퍼네트워크를 통한 소수 샘플 학습 | 최신 연구 논문 | HyperAI초신경