2달 전
SAM 2: 이미지와 비디오에서 모든 것을 세그멘테이션하기
Nikhila Ravi, Valentin Gabeur, Yuan-Ting Hu, Ronghang Hu, Chaitanya Ryali, Tengyu Ma, Haitham Khedr, Roman Rädle, Chloe Rolland, Laura Gustafson, Eric Mintun, Junting Pan, Kalyan Vasudev Alwala, Nicolas Carion, Chao-Yuan Wu, Ross Girshick, Piotr Dollár, Christoph Feichtenhofer
초록
우리는 이미지와 비디오에서 프롬프트 기반 시각적 분할 문제를 해결하기 위한 Segment Anything Model 2 (SAM 2)를 소개합니다. 사용자 상호작용을 통해 모델과 데이터를 개선하는 데이터 엔진을 구축하여 현재까지 가장 큰 규모의 비디오 분할 데이터셋을 수집하였습니다. 우리의 모델은 실시간 비디오 처리를 위해 스트리밍 메모리를 갖춘 간단한 트랜스포머 아키텍처입니다. SAM 2는 우리 데이터로 훈련되어 다양한 작업에서 강력한 성능을 제공합니다.비디오 분할 작업에서는 이전 접근 방식보다 3배 적은 상호작용으로 더 높은 정확도를 보였습니다. 이미지 분할 작업에서는 Segment Anything Model (SAM)보다 정확도가 높고 6배 더 빠른 성능을 나타냈습니다. 우리는 우리의 데이터, 모델, 그리고 인사이트가 비디오 분할 및 관련 인식 작업에 중요한 이정표가 될 것이라고 믿습니다. 우리는 모델의 버전, 데이터셋, 그리고 대화형 데모를 공개하고 있습니다.