Tongyi Qianwen 72B Chat Int4 Model Gradio Demo
عرض توضيحي لـ Qwen-72B-Chat-Int4
مقدمة النموذج
Tongyi Qianwen-72B (Qwen-72B) هو نموذج بمقياس 72 مليار معلمة من سلسلة نماذج Tongyi Qianwen الكبيرة التي طورتها Alibaba Cloud. Qwen-72B هو نموذج لغوي كبير يعتمد على Transformer، تم تدريبه على بيانات تدريب مسبقة واسعة النطاق للغاية. تتنوع أنواع بيانات ما قبل التدريب وتغطي نطاقًا واسعًا، بما في ذلك كمية كبيرة من النصوص عبر الإنترنت والكتب المهنية والأكواد وما إلى ذلك. في الوقت نفسه، استنادًا إلى Qwen-72B، استخدم فريق البحث آلية المحاذاة لإنشاء Qwen-72B-Chat، وهو مساعد ذكاء اصطناعي يعتمد على نموذج لغوي كبير. هذا المستودع مخصص لنموذج Int4 الكمي لـ Qwen-72B-Chat. 
النشر بنقرة واحدة
يتناول هذا البرنامج التعليمي تشغيل نموذج Int4 الكمي لـ Tongyi Qianwen 72B Chat على OpenBayes.
كيفية الركض
- بعد بدء تشغيل الحاوية المستنسخة، افتح صفحة طرفية جديدة
- أدخل الأمر python web_ui.py لتشغيل عرض Gradio التجريبي
- اتبع التعليمات لفتح الرابط
- يمكنك البدء في التحدث مع النموذج