Ryan Teknium Roger Jin Jai Suphavadeeprasit Dakota Mahan Jeffrey Quesnelle Joe Li Chen Guang Shannon Sands Karan Malhotra

초록

우리는 구조화된 다단계 추론 능력과 광범위한 지시 수행 능력을 결합한 하이브리드 추론 모델인 Hermes 4를 소개한다. 데이터 수집, 통합, 훈련 및 평가 과정에서 발생한 도전 과제들을 설명하고, 이러한 과제들을 대규모로 해결하기 위해 적용한 해결 방안을 제시한다. 수학적 추론, 코딩, 지식, 이해력 및 일치성 평가 기준에 걸쳐 종합적인 평가를 수행하였으며, 정량적 성능뿐만 아니라 정성적 행동 분석 결과도 보고한다. 오픈 소스 연구를 지원하기 위해 모든 모델 가중치는 다음 링크에서 공개된다:https://huggingface.co/collections/NousResearch/hermes-4-collection-68a731bfd452e20816725728