vor 18 Tagen
SPLADE-v3: Neue Baselines für SPLADE
Carlos Lassance, Hervé Déjean, Thibault Formal, Stéphane Clinchant

Abstract
Ein Begleitmaterial zur Veröffentlichung der neuesten Version der SPLADE-Bibliothek. Wir beschreiben Änderungen am Trainingsaufbau und stellen unsere neueste Modellreihe – SPLADE-v3 – vor. Wir vergleichen diese neue Version mit BM25, SPLADE++ sowie mit Re-Ranking-Modellen und demonstrieren ihre Wirksamkeit anhand einer Meta-Analyse über mehr als 40 Abfrage-Sets. SPLADE-v3 erweitert die Grenzen der SPLADE-Modelle weiter: Sie ist statistisch signifikant wirksamer als sowohl BM25 als auch SPLADE++, und zeigt gleichzeitig ein hohes Niveau im Vergleich zu Cross-Encoder-Re-Rankern. Insbesondere erreicht sie eine MRR@10 von über 40 auf dem MS MARCO-Dev-Set und verbessert die Out-of-Domain-Ergebnisse auf der BEIR-Benchmark um 2 %.