نشر QwQ-32B باستخدام vLLM

1. مقدمة البرنامج التعليمي
QwQ هو نموذج الاستدلال لسلسلة Qwen. وبالمقارنة مع نماذج ضبط التعليمات التقليدية، يتمتع QwQ بقدرات التفكير والاستدلال، ويمكنه تحقيق تحسينات كبيرة في الأداء في المهام اللاحقة، وخاصة المشكلات الصعبة. QwQ-32B هو نموذج استدلال متوسط الحجم يمكنه تحقيق أداء تنافسي مع نماذج الاستدلال الحديثة مثل DeepSeek-R1 و o1-mini.
يستخدم هذا البرنامج التعليمي QwQ-32B كعرض توضيحي، وموارد الحوسبة هي A6000*2.
2. خطوات التشغيل
1. بعد تشغيل الحاوية، انقر على عنوان API للدخول إلى واجهة الويب (إذا لم يظهر "النموذج"، فهذا يعني أن النموذج قيد التهيئة. نظرًا لحجم النموذج الكبير، يُرجى الانتظار لمدة دقيقة أو دقيقتين ثم تحديث الصفحة).

2. بعد الدخول إلى صفحة الويب، يمكنك بدء محادثة مع النموذج
يدعم هذا البرنامج التعليمي "البحث عبر الإنترنت". بعد تشغيل هذه الوظيفة، سوف تتباطأ سرعة التفكير، وهو أمر طبيعي.

التبادل والمناقشة
🖌️ إذا رأيت مشروعًا عالي الجودة، فيرجى ترك رسالة في الخلفية للتوصية به! بالإضافة إلى ذلك، قمنا أيضًا بتأسيس مجموعة لتبادل الدروس التعليمية. مرحبًا بالأصدقاء لمسح رمز الاستجابة السريعة وإضافة [برنامج تعليمي SD] للانضمام إلى المجموعة لمناقشة المشكلات الفنية المختلفة ومشاركة نتائج التطبيق↓