네모트론 파인튜닝으로 IOI·IMO 금메달 달성
네메트론 연구진이 기초 대규모 언어 모델을 파인튜닝하고 추론 루프를 결합해 2026년 국제정보올림피아드와 국제수학올림피아드 모두에서 골드 메달 획득 수준의 성과를 달성했다. 이번 성과는 단일 모델을 특정 도메인에 맞게 재설계하는 특화 기법과 테스트 타임 컴퓨팅의 시너지가 인간 최상위 수준의 문제 해결 능력을 이끌어낼 수 있음을 입증한 사례로 평가된다. 연구진은 네메트론 3 기반 모델을 출발점으로 삼아 도메인별 고품질 문제 데이터와 추론 과정을 정제하는 지도 미세조정 및 강화 학습을 적용했다. 이어 생성 검증 개선의 피드백 기반 추론 루프를 구성해 최종 시스템을 완성했으며, 매번 새로운 기초 모델을 개발하는 대신 기존 기반을 효율적으로 특화하는 재사용 가능한 레시피를 제시했다. 정보올림피아드 부문에서는 네메트론 울트라 모델이 미세 조정과 추론 전략을 적용해 600점 만점에 535.4점을 기록했으며 골드 기준점 361.12점을 크게 상회했다. 이는 최고 점수를 기록한 인간 참가자의 498.27점도 초과한 수치로 제한 시간과 인터넷 접근 금지 등 본선과 동일한 조건에서 비공식적으로 수행된 실시간 평가에서 달성한 결과다. 대규모 모델은 단일 미세 조정 단계만으로도 파인튜닝과 강화 학습을 거친 중소형 모델보다 더 우수한 성능을 보여 특화 전략이 모델 규모에 따라 유연하게 조정되어야 함을 시사했다. 수학올림피아드 부문에서는 미세 조정 및 강화 학습 체크포인트를 생성 검증 개선 파이프라인에 통합해 42점 만점에 30점을 기록했다. 공식 골드 기준점 29점을 돌파한 이 결과는 자연어 추론만으로 복잡한 증명 과정을 구성하고 공백을 식별하며 최종 제출본을 선별한 시스템의 능력을 보여준다. 별도의 형식 검증기나 외부 도구 없이 자연어만으로 작동한 점도 특징이다. 연구진은 이번 성과가 미세 조정이나 무작위 샘플링 단편이 아닌 모델 데이터 추론 루프를 체계적으로 공설계한 결과임을 강조했다. 골드 메달 수준의 성취는 강력한 도메인 특화 모델이 검증 및 개선 워크플로우와 결합될 때 비로소 실현됨을 입증한 것이다. 관련 모든 모델 가중치 학습 데이터 벤치마크 그리고 미세 조정과 추론 파이프라인 코드 전체는 허깅페이스에 공개됐다. 이를 통해 오픈소스 커뮤니티는 네메트론의 특화 레시피를 기반으로 더 다양한 최첨단 문제 해결 모델과 응용 시스템을 구축할 수 있는 기반을 확보하게 됐다.
