Hebrew-CLIP는 2024년 NVIDIA가 발표한 히브리어 비전-언어 모델 훈련용 데이터셋으로, CLIP과 같은 비전-언어 모델의 히브리어 환경 적용을 촉진하기 위해 설계되었습니다.

이 데이터셋은 약 778만 개의 히브리어 이미지 설명을 포함하며, 주로 DataComp-1B 기계 번역 데이터와 LAION-5B 다국어 데이터로 구성됩니다. 데이터는 Parquet 형식으로 저장되며 실제 이미지는 포함하지 않고 텍스트 설명과 해당 이미지 임베딩 참조만 제공하여 다중 모달 모델의 훈련 및 평가에 적합합니다.

데이터셋 구성

데이터셋은 두 개의 Parquet 파일로 구성되며, 각 파일에는 주로 다음 필드가 포함됩니다:

• key: 설명의 고유 식별자.
• heb_caption: 히브리어 설명 텍스트.
• file_name: 해당 이미지 임베딩 파일 이름.
• file_index: 파일 내 임베딩의 인덱스 위치.