2달 전

트랜스포머를 통한 신경-기호 편집 문법을 이용한 버그 수정

Hu, Yaojie ; Shi, Xingjian ; Zhou, Qiang ; Pike, Lee
트랜스포머를 통한 신경-기호 편집 문법을 이용한 버그 수정
초록

NSEdit(뉴럴-심볼릭 에디트)는 새로운 트랜스포머 기반의 코드 수정 방법을 소개합니다. 버그가 포함된 소스 코드만 주어진 상태에서 NSEdit은 버그를 수정할 수 있는 편집 시퀀스를 예측합니다. 편집 문법은 정규 언어로 표현되며, 트랜스포머는 이를 뉴럴-심볼릭 스크립팅 인터페이스로 사용하여 편집 프로그램을 생성합니다. 우리는 트랜스포머를 수정하고 포인터 네트워크를 추가하여 편집 위치를 선택할 수 있도록 하였습니다. 빔 서치로 생성된 편집 시퀀스를 재순위화하기 위해 여러 개의 리랭커 앙상블이 학습되었습니다. 리랭커 앙상블은 검증 세트에서 미세 조정(fine-tune)되어 과적합(over-fitting)을 줄입니다. NSEdit은 다양한 코드 수정 데이터셋에서 평가되었으며, CodeXGLUE 벤치마크의 Tufano 소형 데이터셋에서 새로운 최고 수준의 정확도($24.04\%$)를 달성했습니다. NSEdit은 패키지 간 프로그램이 다양할 때나 버그가 구체적으로 나타날 때에도 강건하게 작동합니다. 우리는 우리의 방법에 대한 상세한 분석을 수행하고 각 구성 요소의 효과성을 입증하였습니다.

트랜스포머를 통한 신경-기호 편집 문법을 이용한 버그 수정 | 최신 연구 논문 | HyperAI초신경