HyperAIHyperAI
il y a 18 jours

CRINN : apprentissage par renforcement contrastif pour la recherche de voisins les plus proches approchés

Xiaoya Li, Xiaofei Sun, Albert Wang, Chris Shum, Jiwei Li
CRINN : apprentissage par renforcement contrastif pour la recherche de voisins les plus proches approchés
Résumé

Les algorithmes de recherche des plus proches voisins approximatifs (ANNS) sont devenus de plus en plus essentiels aux applications récentes de l’intelligence artificielle, en particulier dans les systèmes de génération augmentée par recherche (RAG) et les applications basées sur des agents à base de grands modèles linguistiques (LLM). Dans cet article, nous présentons CRINN, un nouveau paradigme pour les algorithmes ANNS. CRINN traite l’optimisation ANNS comme un problème d’apprentissage par renforcement, où la vitesse d’exécution sert de signal de récompense. Cette approche permet la génération automatique d’implémentations ANNS de plus en plus rapides, tout en respectant des contraintes de précision. Notre évaluation expérimentale démontre l’efficacité de CRINN sur six jeux de données standards de recherche de plus proches voisins (NNS). En comparaison avec les algorithmes ANNS open source les plus avancés, CRINN obtient les meilleurs résultats sur trois d’entre eux (GIST-960-Euclidean, MNIST-784-Euclidean et GloVe-25-angular), et une place ex-aequo en tête sur deux autres (SIFT-128-Euclidean et GloVe-25-angular). Les implications du succès de CRINN dépassent largement l’optimisation ANNS : elles confirment que les grands modèles linguistiques (LLM) enrichis par apprentissage par renforcement peuvent servir d’outil efficace pour automatiser des optimisations algorithmiques complexes exigeant des connaissances spécialisées et un travail manuel intensif. Le code est disponible à l’adresse suivante : https://github.com/deepreinforce-ai/CRINN