HyperAI초신경

vLLM+Open WebUI는 AM-Thinking-v1 고밀도 언어 모델을 배포합니다.

1. 튜토리얼 소개

AM-Thinking-v1은 am-team이 2025년 5월 10일에 개발한 32B 고밀도 언어 모델로, 추론 능력 향상에 중점을 두고 있습니다. 이 모델은 DeepSeek-R1, Qwen3-235B-A22B, Seed1.5-Thinking과 같은 대형 MoE 모델 및 Nemotron-Ultra-253B-v1과 같은 더 큰 고밀도 모델과 비교할 때 추론 벤치마크에서 강력한 성능을 보여줍니다. 관련 논문 결과는 다음과 같습니다.AM-Thinking-v1: 32B 규모 추론의 최전선 진출".

이 튜토리얼에서는 듀얼 SIM A6000의 리소스를 사용합니다.

2. 프로젝트 예시

3. 작업 단계

1. 컨테이너 시작 후 API 주소를 클릭하여 웹 인터페이스로 진입합니다.

"모델"이 표시되지 않으면 모델이 초기화되고 있음을 의미합니다. 모델이 크기 때문에 1~2분 정도 기다리신 후 페이지를 새로고침해 주세요.

2. 웹페이지에 접속 후 모델과 대화를 시작할 수 있습니다.

사용 방법

4. 토론

🖌️ 고품질 프로젝트를 발견하시면, 백그라운드에 메시지를 남겨 추천해주세요! 또한, 튜토리얼 교환 그룹도 만들었습니다. 친구들의 QR코드 스캔과 [SD 튜토리얼] 댓글을 통해 그룹에 가입하여 다양한 기술 이슈에 대해 논의하고 신청 결과를 공유해 주시기 바랍니다.↓

인용 정보

이 프로젝트에 대한 인용 정보는 다음과 같습니다.

@misc{ji2025amthinkingv1advancingfrontierreasoning,
      title={AM-Thinking-v1: Advancing the Frontier of Reasoning at 32B Scale}, 
      author={Yunjie Ji and Xiaoyu Tian and Sitong Zhao and Haotian Wang and Shuaiting Chen and Yiping Peng and Han Zhao and Xiangang Li},
      year={2025},
      eprint={2505.08311},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2505.08311}, 
}