Particle Transformer pour l'étiquetage des jets

L'identification des jets (jet tagging) est une tâche de classification critique et pourtant complexe en physique des particules. Bien que l'apprentissage profond ait révolutionné l'identification des jets et amélioré considérablement les performances, le manque d'un grand ensemble de données publique entrave toute progression supplémentaire. Dans cette étude, nous présentons JetClass, un nouveau jeu de données complet pour l'identification des jets. L'ensemble de données JetClass comprend 100 millions de jets, soit environ deux ordres de grandeur plus important que les ensembles de données publics existants. Au total, 10 types de jets ont été simulés, incluant plusieurs types qui n'avaient pas encore été explorés pour l'identification. Sur la base de cet ensemble de données à grande échelle, nous proposons une nouvelle architecture basée sur les Transformers pour l'identification des jets, appelée Particle Transformer (ParT). En intégrant les interactions paires-particules dans le mécanisme d'attention, ParT atteint des performances d'identification supérieures à celles d'un Transformer simple et dépasse largement l'état de l'art précédent, ParticleNet. Les modèles ParT pré-entraînés, une fois affinés (fine-tuned), améliorent également considérablement les performances sur deux benchmarks d'identification des jets largement adoptés. L'ensemble de données, le code et les modèles sont disponibles au public sur https://github.com/jet-universe/particle_transformer.