온라인 튜토리얼 | 수십억 개의 매개변수 없이 에이전트 실행하기! 보스 지핀의 난베이거 연구실, 난베이거 4.2-3B 오픈소스 공개: 소형 모델에 "두뇌"를 부여하다

대규모 언어 모델이 지능형 에이전트로 발전함에 따라 도구 호출, 작업 계획, 다단계 실행과 같은 기능이 필수적입니다. 그러나 이러한 기능은 일반적으로 더 큰 규모의 파라미터를 필요로 하므로 메모리 사용량과 배포 비용이 증가하여 고성능 지능형 에이전트를 로컬 환경에서 실행하기 어렵습니다.

보스 지핀의 난베이거 랩에서 개발한 난베이거 4.2-3B는 이러한 제약을 깨뜨리려는 시도입니다.이 모델은 Nanbeige4.2-3B-Base를 기반으로 하며 루프형 트랜스포머 아키텍처를 채택했습니다. 트랜스포머 레이어를 재사용하여 모델 용량을 향상시키고, 파라미터 수를 늘리지 않고도 성능을 개선합니다.이 모델은 (총 약 40억 개의 매개변수 중) 30억 개의 비임베디드 매개변수만 포함하고 있음에도 불구하고, Qwen3.5-9B 및 Gemma4-12B를 포함한 여러 에이전트 벤치마크 테스트에서 더 큰 규모의 경쟁 모델보다 우수한 성능을 보여줍니다.

구체적으로, Nanbeige4.2-3B는 코드 기반 지능형 에이전트를 위한 SWE-Bench Verified 작업에서 63.6점, GPQA-Diamond 과학적 추론 벤치마크에서 87.4점을 달성했습니다. 에이전트 기능 외에도, 이 모델은 추론 시나리오에 최적화되어 있으며, 사고 모드(Thinking Mode)를 지원하여 수학적, 코드 기반 및 과학적 추론 작업에서 경쟁력을 유지합니다. 컨텍스트 창은 최대 262,000개의 토큰을 지원하여 긴 문서, 다중 턴 대화 및 복잡한 워크플로를 처리할 수 있습니다.

"Nanbeige 4.2-3B: 컴팩트 지능형 에이전트 모델"이 HyperAI(hyper.ai)에서 출시되었습니다. 개발자들은 이 모델을 통해 더욱 저렴한 비용으로 네이티브 지능형 에이전트 애플리케이션을 개발할 수 있습니다. 관심 있는 분들은 클릭 한 번으로 살펴보실 수 있습니다! ⬇️

온라인으로 실행:https://go.hyper.ai/HAMqL

더 많은 온라인 튜토리얼:

https://hyper.ai/notebooks

데모 실행

1. hyper.ai 홈페이지에 접속한 후 "튜토리얼" 페이지를 선택하거나 "더 많은 튜토리얼 보기"를 클릭하고 "Nanbeige4.2-3B: 컴팩트 에이전트 모델"을 선택한 다음 "이 튜토리얼 실행"을 클릭합니다.

2. 페이지가 리디렉션된 후 오른쪽 상단의 "복제"를 클릭하여 튜토리얼을 자신의 컨테이너로 복제합니다.

참고: 페이지 오른쪽 상단에서 언어를 변경할 수 있습니다. 현재 중국어와 영어로만 제공됩니다. 이 튜토리얼에서는 영어로 된 단계를 안내합니다.

3. "NVIDIA RTX 5090" 및 "PyTorch" 이미지를 선택하고 "작업 실행 계속"을 클릭합니다.

4. 리소스 할당이 완료될 때까지 기다립니다. 상태가 "실행 중"으로 변경되면 "워크스페이스 열기"를 클릭하여 Jupyter 워크스페이스에 들어갑니다.

효과 표시

1. 페이지가 리디렉션된 후 왼쪽에 있는 README 파일을 클릭하고 상단의 실행을 클릭합니다.

2. 프로세스가 완료되면 README 파일의 지침에 따라 터미널에 코드를 입력하여 Open WebUI를 시작하세요. 그런 다음 오른쪽에 있는 API 주소를 클릭하여 데모 페이지로 이동하세요.