RAG 2.0 구현: 대화형 챗봇으로 진화한 지능형 정보 검색 시스템

이번 튜토리얼에서는 단순한 질문-응답 시스템이 아닌, 대화형 AI 챗봇으로 진화한 'RAG 2.0'을 구축합니다. 기존 RAG 1.0은 한 번의 질문에 답하는 데 그쳤지만, RAG 2.0은 대화 기억, 자연스러운 흐름, 사용자 제어를 갖춘 더 지능적인 시스템입니다. 핵심은 텍스트 분할 방식을 기존의 CharacterTextSplitter에서 RecursiveCharacterTextSplitter로 전환해 단어 경계를 깨뜨리지 않도록 하는 것입니다. 이로 인해 각 청크가 의미 단위로 잘 분리되어 검색 정확도가 크게 향상됩니다. 또한, google/flan-t5-large와 같은 대규모 모델을 활용해 자연스럽고 맥락을 반영한 응답을 가능하게 했으며, ConversationBufferMemory를 도입해 사용자의 이전 대화를 기억하게 했습니다. 이를 통해 "Instagram은 어떻게 시작되었나요?" 이후 "그럼 Twitter는요?"와 같은 연속 질문도 정확히 이해하고 응답할 수 있습니다. 특히, PromptTemplate을 커스터마이징해 모델이 더 친절하고 명확한 답변을 하도록 유도했고, 스트리밍 UI를 통해 사용자가 검색어를 입력하면 관련 문서의 상위 3개 결과를 실시간으로 확인할 수 있도록 했습니다. 이를 통해 사용자는 검색 결과를 검토하고, 필요 시 질문을 조정할 수 있어 투명성과 제어력을 확보했습니다. 결과적으로, RAG 2.0은 단순한 정보 검색을 넘어, 인간과 유사한 대화 능력을 갖춘 스마트한 AI 어시스턴트로 진화했습니다. 이는 AI 애플리케이션 개발의 핵심 기술인 RAG의 진화를 잘 보여주는 사례입니다.