CRINN: 근사 근접 검색을 위한 대조 강화 학습

최근 인공지능(AI) 응용 분야에서 근사 근접 이웃 탐색(ANNS, Approximate Nearest-Neighbor Search) 알고리즘은 특히 검색 기반 생성(RAG, Retrieval-Augmented Generation) 및 에이전트 기반 대규모 언어 모델(LLM) 응용 분야에서 점점 더 핵심적인 역할을 하고 있다. 본 논문에서는 ANNS 알고리즘을 위한 새로운 패러다임인 CRINN을 제안한다. CRINN은 실행 속도를 보상 신호로 삼아 ANNS 최적화를 강화 학습(Reinforcement Learning) 문제로 접근한다. 이 방법은 정확도 제약 조건을 유지하면서 점차 빠른 ANNS 구현체를 자동으로 생성할 수 있도록 한다. 실험적 평가를 통해 CRINN이 6개의 대표적인 NNS 벤치마크 데이터셋에서 효과적임을 입증하였다. 최첨단 오픈소스 ANNS 알고리즘들과 비교했을 때, CRINN은 GIST-960-Euclidean, MNIST-784-Euclidean, GloVe-25-angular 세 가지 데이터셋에서 최고 성능을 기록하였으며, SIFT-128-Euclidean 및 GloVe-25-angular 두 데이터셋에서는 공동 1위를 달성하였다. CRINN의 성공은 ANNS 최적화를 넘어서는 의미를 지닌다. 즉, 강화 학습을 통합한 대규모 언어 모델(LLM)이 전문 지식과 인적 노력이 필요한 복잡한 알고리즘 최적화를 자동화하는 효과적인 도구로 활용될 수 있음을 입증한다. 코드는 https://github.com/deepreinforce-ai/CRINN 에서 확인할 수 있다.