HyperAI

vLLM+Open WebUI Déploie Le Modèle De Langage Dense AM-Thinking-v1

1. Introduction au tutoriel

AM-Thinking-v1 est un modèle de langage dense de 32 B développé par am-team le 10 mai 2025, axé sur l'amélioration des capacités de raisonnement. Le modèle démontre de solides performances sur les benchmarks d'inférence, comparables aux grands modèles MoE tels que DeepSeek-R1, Qwen3-235B-A22B, Seed1.5-Thinking et aux modèles denses plus grands tels que Nemotron-Ultra-253B-v1. Les résultats pertinents de l'article sontAM-Thinking-v1 : Faire progresser la frontière du raisonnement à l'échelle 32B".

Ce tutoriel utilise les ressources du A6000 double SIM.

2. Exemples de projets

3. Étapes de l'opération

1. Après avoir démarré le conteneur, cliquez sur l'adresse API pour accéder à l'interface Web

Si « Modèle » n'est pas affiché, cela signifie que le modèle est en cours d'initialisation. Étant donné que le modèle est grand, veuillez patienter environ 1 à 2 minutes et actualiser la page.

2. Après être entré sur la page Web, vous pouvez démarrer une conversation avec le modèle

Comment utiliser

4. Discussion

🖌️ Si vous voyez un projet de haute qualité, veuillez laisser un message en arrière-plan pour le recommander ! De plus, nous avons également créé un groupe d’échange de tutoriels. Bienvenue aux amis pour scanner le code QR et commenter [Tutoriel SD] pour rejoindre le groupe pour discuter de divers problèmes techniques et partager les résultats de l'application↓

Informations sur la citation

Les informations de citation pour ce projet sont les suivantes :

@misc{ji2025amthinkingv1advancingfrontierreasoning,
      title={AM-Thinking-v1: Advancing the Frontier of Reasoning at 32B Scale}, 
      author={Yunjie Ji and Xiaoyu Tian and Sitong Zhao and Haotian Wang and Shuaiting Chen and Yiping Peng and Han Zhao and Xiangang Li},
      year={2025},
      eprint={2505.08311},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2505.08311}, 
}