Deepro Choudhury Sinead Williamson Adam Goliński Ning Miao Freddie Bickford Smith et al

초록

우리는 대규모 언어 모델(Large Language Models, LLM)이 사용자나 다른 외부 소스로부터 지능적이고 적응적으로 정보를 수집할 수 있도록 하는 일반적인 접근법을 제안한다. 이 접근법은 순차적 베이지안 실험 설계(Sequential Bayesian Experimental Design, BED) 프레임워크를 기반으로 하며, LLM이 효과적인 다단계 대화 에이전트로서 작동하고 외부 환경과 상호작용할 수 있도록 한다. 본 연구에서 제안하는 방법은 ‘BED-LLM(Bayesian Experimental Design with Large Language Models)’이라 명명하며, 이는 이전에 수집한 응답을 바탕으로 관심 있는 작업에 대한 기대 정보량(Expected Information Gain, EIG)을 최대화하는 질문이나 쿼리를 반복적으로 선택하는 방식에 기초한다. 우리는 LLM의 신념 분포로부터 유도된 확률 모델을 활용하여 EIG를 체계적으로 정식화하는 방법을 제시하고, 그 구현 과정에서 핵심적인 결정들에 대해 심층적인 통찰을 제공한다. 또한 BED-LLM의 성공에 기여하는 핵심 요소로는, 단순히 컨텍스트 내 업데이트에 의존하지 않고 신중하게 설계된 EIG 추정기와 후보 쿼리를 제안하는 타겟팅 전략 등이 있다. 실험 결과, 20가지 질문 게임을 기반으로 한 다양한 시험에서 BED-LLM은 LLM에 직접 프롬프트를 제공하는 방식과 다른 적응형 설계 전략 대비 상당한 성능 향상을 보였다. 특히 사용자 선호도를 능동적으로 추론하는 상황에서 그 효과가 두드러졌다.