코드 생성을 위한 Coder 리뷰어 재순위 정렬

코드 언어 모델에서 다양한 프로그램을 샘플링한 후 모델의 가능도를 이용해 재정렬하는 것은 코드 생성에서 널리 사용되는 방법이지만, 이는 비정상적(데그레드된) 해를 선호하는 경향이 있다. 협업 프로그래밍의 아이디어에서 영감을 받아, 우리는 Coder-Reviewer 재정렬 기법을 제안한다. 기존 연구에서 제안된 Coder 언어 모델(언어 지시사항을 기반으로 프로그램을 생성하는 모델)에, 생성된 프로그램을 바탕으로 지시사항의 가능도를 평가하는 Reviewer 모델을 추가한다. 우리는 세 가지 모델 패밀리에 속한 여덟 개의 모델을 사용하여 여섯 개의 데이터셋에서 포괄적인 실험을 수행했다. 실험 결과, Coder-Reviewer 재정렬은 단지 Coder 모델만을 사용한 재정렬보다 일관되고 의미 있는 성능 향상을 보였으며, 정확도 측면에서 최대 17%의 절대적 개선을 달성했다. 실행 가능성 필터링과 결합할 경우, Coder-Reviewer 재정렬은 최소 베이즈 위험(minimum Bayes risk) 방법을 뛰어넘는 경우도 종종 발생한다. Coder-Reviewer 재정렬은 프롬프팅을 통해 간편하게 구현 가능하며, 다양한 프로그래밍 언어로 일반화가 가능하고, 사전 설정된 하이퍼파라미터를 그대로 사용해도 우수한 성능을 발휘한다.