마트료시카 표현 학습

마트료시카 표현 학습(MRL)은 아디티야 쿠수파티, 간타비아 바트 등이 제안한 이론입니다. 이 이론은 2022년 논문으로 처음 발표되었습니다.마트료시카 표현 학습"중간. 본 논문은 단일 임베딩에 다양한 세분성의 정보를 인코딩할 수 있는 새로운 표현 학습 방법을 제안하며, 이를 통해 모델이 다양한 컴퓨팅 리소스를 사용하는 후속 작업에 적응할 수 있도록 합니다.

중첩된 저차원 벡터를 최적화하여 다양한 세분성의 정보를 학습하고 단일 임베딩을 다운스트림 작업의 계산적 제약에 적응시킬 수 있습니다. MRL의 핵심 아이디어는 고차원 벡터에서 일련의 가변 용량 표현을 학습하는 것입니다. 이 표현은 중첩된 방식으로 명시적으로 최적화되므로 "마트료시카"(러시아 인형)라는 이름이 붙었습니다.

MRL의 주요 특징은 다음과 같습니다.

1. 중첩된 표현: MRL은 입력 데이터를 독립적으로 표현할 수 있는 동일한 고차원 벡터 내에 중첩된 저차원 벡터를 학습합니다.
2. 유연성과 다중 충실도: MRL 표현은 추론 및 배포 비용을 증가시키지 않고도 다양한 컴퓨팅 리소스와 다운스트림 작업 요구 사항에 적응할 수 있습니다.
3. 거친 입자 크기부터 미세 입자 크기까지：MRL은 거친 표현에서 세밀한 표현으로 학습하므로 차원이 증가함에 따라 정보가 증가하여 계층적 정보 표현을 형성합니다.
4. 적응형 배포: MRL은 정확도와 계산적 제약에 따라 적응형 배포를 허용하여 정확도를 유지하면서 임베딩 벡터의 차원을 줄입니다.
5. 크로스모달 및 대규모 데이터 세트: MRL은 비전(ViT, ResNet 등), 비전+언어(ALIGN 등), 언어(BERT 등)를 포함한 다양한 모달리티로 원활하게 확장할 수 있으며 ImageNet 및 JFT와 같은 대규모 데이터 세트에 적용할 수 있습니다.
6. 오픈소스 구현: MRL의 코드와 사전 학습된 모델은 오픈 소스이며 GitHub을 통해 접근할 수 있습니다.

MRL 제안의 목적은 기존 표현 학습 파이프라인의 고정된 용량 제한을 해결하여 다양한 다운스트림 작업과 컴퓨팅 리소스에 맞게 표현을 보다 유연하게 조정하는 것입니다. MRL을 통해 더 효율적인 대규모 분류 및 검색 작업을 달성할 수 있으며, 롱테일 퓨샷 분류 작업의 정확도도 향상됩니다.