نشر Llama-3.3-70B-Instruct بنقرة واحدة

1. مقدمة البرنامج التعليمي
Llama-3.3-70B-Instruct هو نموذج لغوي كبير أطلقته Meta في عام 2024. وهو النموذج الوحيد مفتوح المصدر في سلسلة Llama 3.3، ويحتوي على إصدار مخصص لضبط التعليمات بدقة. يدعم النموذج ثماني لغات، بما في ذلك الإنجليزية والألمانية والفرنسية والإيطالية والبرتغالية والهندية والإسبانية والتايلاندية، لكنه لا يدعم اللغة الصينية حاليًا. في تقييم الأداء، يبلغ حجم معلمة Llama-3.3-70B-Instruct حوالي 70B، ولكن مؤشرات التقييم المختلفة تساوي تقريبًا نموذج Llama3.1-405B بحجم معلمة 405B، مما يعني أنه يمكن إنشاء النص بشكل أسرع باستخدام موارد أقل، والأداء مشابه لأداء نموذج أكبر بحجم معلمة أكبر بنحو 6 مرات. هذا يجعل Llama-3.3-70B-Instruct بديلاً قويًا وفعّالاً من حيث التكلفة يوفر أداءً متفوقًا على المعايير الرئيسية مع الحفاظ على المصدر المفتوح وسهولة الوصول إليه.
本教程使用 Llama-3.3-70B-Instruct(采取 int4 量化)作为演示,算力资源采用 A6000 。
2. خطوات التشغيل
1. بعد تشغيل الحاوية، انقر على عنوان API للدخول إلى واجهة الويب (إذا ظهرت رسالة "Bad Gateway"، فهذا يعني أن النموذج قيد التهيئة. نظرًا لكبر حجم النموذج، يُرجى الانتظار حوالي 5 دقائق ثم المحاولة مرة أخرى).

2. بمجرد دخولك إلى صفحة الويب، يمكنك بدء محادثة مع العارضة!

نموذج تدفق الحوار
التبادل والمناقشة
🖌️ إذا رأيت مشروعًا عالي الجودة، فيرجى ترك رسالة في الخلفية للتوصية به! بالإضافة إلى ذلك، قمنا أيضًا بتأسيس مجموعة لتبادل الدروس التعليمية. مرحبًا بالأصدقاء لمسح رمز الاستجابة السريعة وإضافة [برنامج تعليمي SD] للانضمام إلى المجموعة لمناقشة المشكلات الفنية المختلفة ومشاركة نتائج التطبيق↓