REFRAG a été proposé par Meta Superintelligence Labs en collaboration avec l'Université nationale de Singapour et l'Université Rice en septembre 2025. Les résultats de recherche pertinents ont été publiés dans l'article «REFRAG : repenser le décodage basé sur RAG".

REFRAG est un framework de décodage performant qui améliore la latence des applications de génération augmentée par récupération (RAG) grâce à la compression, la perception et l'expansion. REFRAG introduit plusieurs améliorations innovantes au processus de décodage : au lieu d'utiliser les jetons des passages récupérés en entrée, il exploite les représentations approximatives des segments précalculés et compressés, les introduisant directement dans le décodeur. Ainsi, REFRAG minimise le recours aux représentations de jetons gourmandes en ressources de calcul, permettant ainsi la compression de la plupart des blocs de requêtes dans le contexte RAG.