Déploiement En Un Clic Qwen2.5-VL-32B-Instruct

1. Introduction au tutoriel
Qwen2.5-VL-32B-Instruct est un grand modèle multimodal open source par l'équipe Alibaba Tongyi Qianwen le 24 mars 2025 et publié sous le protocole Apache 2.0. Basé sur la série Qwen2.5-VL, ce modèle est optimisé grâce à la technologie d'apprentissage par renforcement et réalise une percée dans les capacités multimodales avec une échelle de paramètres de 32B.
🚀 Mise à niveau choquante du Qwen2.5-VL-32B ! Une IA visuelle plus puissante, un assistant multimodal plus intelligent ! 🌟
🔥 Mises à niveau des fonctionnalités principales
- Analyse visuelle fine:Dans des domaines professionnels tels que l'analyse d'images médicales et la reconnaissance de dessins techniques, le modèle démontre des capacités de capture de contenu au niveau des pixels et prend en charge le raisonnement d'association multi-graphes et l'analyse de dimension spatio-temporelle.
- Optimisation du style de sortie:Le contenu de sortie du modèle est plus proche des habitudes d'expression humaine en termes de spécifications de format et de détails d'information, et peut générer des solutions avec une structure claire et une logique rigoureuse, en particulier dans des scénarios complexes.
- Percée du raisonnement mathématique:Pour les problèmes mathématiques complexes, y compris les équations à plusieurs variables et les preuves géométriques, le modèle améliore la précision de la résolution des problèmes au niveau de pointe de l'industrie grâce à l'optimisation des algorithmes.
Ce tutoriel utilise Qwen2.5-VL-32B comme démonstration et les ressources de calcul sont A6000*2.
2. Étapes de l'opération
1. Après avoir démarré le conteneur, cliquez sur l'adresse API pour accéder à l'interface Web
Si « Modèle » n'est pas affiché, cela signifie que le modèle est en cours d'initialisation. Étant donné que le modèle est grand, veuillez patienter environ 1 à 2 minutes et actualiser la page.

2. Après être entré sur la page Web, vous pouvez démarrer une conversation avec le modèle
Ce tutoriel prend en charge la « recherche en ligne ». Une fois cette fonction activée, la vitesse d'inférence ralentira, ce qui est normal.

3. Exemple d'appel d'interface
Ce conteneur utilise open-webui pour appeler le service API de Qwen2.5-VL-32B par défaut. Si vous devez l'utiliser localement, vous pouvez vous référer à l'exemple d'appel ci-dessous.Contient des exemples d'utilisation de cURL et de Python.
Obtenez API_PATH comme indiqué :

🔹 Appeler en utilisant cURL
Vous pouvez utiliser curl
La commande appelle directement l'API :
curl {API_PATH}/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer Empty" \
-d '{
"model": "Qwen2.5-VL-32B-Instruct",
"messages": [
{
"role": "user",
"content": [
{"type": "text", "text": "请理解图片中的公式,并做详细解释"},
{"type": "image_url", "image_url": {"url": "https://images2018.cnblogs.com/blog/1203675/201805/1203675-20180525100048863-1610672614.png"}}
]
}
],
"max_tokens": 1024
}'
🐍 Utiliser Python pour appeler
Assurez-vous d'installer openai
Bibliothèques :
pip install openai
Utilisez ensuite le code Python suivant :
from openai import OpenAI
client = OpenAI(api_key="Empty", base_url="{API_PATH}/v1/")
response = client.chat.completions.create(
model="Qwen2.5-VL-32B-Instruct",
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": "请理解图片中的公式,并做详细解释"},
{"type": "image_url", "image_url": {"url": "https://images2018.cnblogs.com/blog/1203675/201805/1203675-20180525100048863-1610672614.png"}}
]
}
],
max_tokens=1000
)
print(response.choices[0].message.content)
De cette façon, vous pouvez utiliser la méthode appropriée pour appeler l'API Qwen2.5-VL-32B dans différents environnements ! 🚀
Échange et discussion
🖌️ Si vous voyez un projet de haute qualité, veuillez laisser un message en arrière-plan pour le recommander ! De plus, nous avons également créé un groupe d’échange de tutoriels. Bienvenue aux amis pour scanner le code QR et commenter [Tutoriel SD] pour rejoindre le groupe pour discuter de divers problèmes techniques et partager les résultats de l'application↓
