TiC-DataComp est un ensemble de données publié par Apple en 2024, servant de référence pour l'apprentissage continu temporel (Time-Continual Learning, TiC) destiné aux modèles visuels et linguistiques. Les travaux de recherche associés sont présentés dans « TiC-CLIP: Continual Training of CLIP Models ». Cet ensemble vise à résoudre le problème du coût élevé de la mise à jour continue des modèles de base, en fournissant des données massives de séries temporelles pour évaluer et améliorer la robustesse temporelle des modèles.

Cet ensemble de données comprend plus de 12,7 milliards de paires image-texte horodatées, couvrant la période de 2014 à 2022, et provient de la source de données CommonCrawl. Les chercheurs peuvent utiliser cet ensemble de données pour concevoir et évaluer des méthodes d'apprentissage continu temporel à grande échelle pour les modèles image-texte, mesurer la robustesse temporelle des modèles existants via une évaluation dynamique, et vérifier l'efficacité des stratégies d'entraînement basées sur la relecture pour réduire la consommation de ressources de calcul.

Composition de l'ensemble de données

L'ensemble de données comprend principalement les structures suivantes, destinées à l'entraînement et à l'évaluation à différentes granularités temporelles :

• Données d'entraînement mensuelles : tic-datacomp_training_monthly/.npy, contenant une liste d'identifiants uniques (UID) correspondant à chaque mois.
• Données d'entraînement annuelles : tic-datacomp_training_yearly_noeval/.npy, contenant une liste d'UID pour chaque année, après exclusion de l'ensemble d'évaluation annuel.
• Données d'évaluation de récupération : tic-datacomp_retrieval_evals_year2uids, contenant les UID pour chaque année dans les tâches d'évaluation TiC-DataComp-Retrieval.
• Données d'évaluation Net : tic-datacompnet_year2uids, contenant les UID pour chaque année dans les tâches d'évaluation TiC-DataCompNet.

Citation

@inproceedings{garg2024tic,
  title={TiC-CLIP: Continual Training of CLIP Models},
  author={Garg, Saurabh and Farajtabar, Mehrdad and Pouransari, Hadi and Vemulapalli, Raviteja and Mehta, Sachin and Tuzel, Oncel and Shankar, Vaishaal and Faghri, Fartash},
  booktitle={The Twelfth International Conference on Learning Representations (ICLR)},
  year={2024},
  url={https://openreview.net/forum?id=TLADT8Wrhn}
}