HyperAIHyperAI

vLLM+بذرة نشر واجهة المستخدم المفتوحة على الويب-OSS-36B-Instruct

1. مقدمة البرنامج التعليمي

يبني

Seed-OSS-36B-Instruct هو نموذج لغة مفتوح المصدر كبير الحجم، أصدره فريق ByteDance Seed في أغسطس 2025. تم تدريب Seed-OSS على 12 تريليون رمز (12 تيرا بايت) وحقق أداءً متميزًا في العديد من معايير البرمجيات مفتوحة المصدر السائدة. يجمع تصميم Seed-OSS-36B بين العديد من خيارات التصميم الشائعة، بما في ذلك نمذجة اللغة السببية، واهتمام الاستعلامات المجمعة، ووظيفة تنشيط SwiGLU، وRMSNorm، وترميز RoPE الموضعي. ومن أبرز ميزاته قدرته الأصلية على التعامل مع السياقات الطويلة، حيث يبلغ طول السياق الأقصى 512 ألف رمز، مما يُمكّنه من التعامل مع مستندات وسلاسل استدلال طويلة للغاية دون التأثير على الأداء. هذا الطول ضعف طول أحدث سلسلة نماذج GPT-5 من OpenAI، أي ما يعادل حوالي 1600 صفحة نصية.

موارد الحوسبة المستخدمة في هذا البرنامج التعليمي هي بطاقة RTX A6000 ثنائية البطاقة.

2. عرض التأثير

3. خطوات التشغيل

1. ابدأ تشغيل الحاوية

2. خطوات الاستخدام

إذا لم يظهر "النموذج"، فهذا يعني أن النموذج قيد التهيئة. نظرًا لحجم النموذج الكبير، يُرجى الانتظار لمدة 4-5 دقائق ثم تحديث الصفحة.

4. المناقشة

🖌️ إذا رأيت مشروعًا عالي الجودة، فيرجى ترك رسالة في الخلفية للتوصية به! بالإضافة إلى ذلك، قمنا أيضًا بتأسيس مجموعة لتبادل الدروس التعليمية. مرحبًا بالأصدقاء لمسح رمز الاستجابة السريعة وإضافة [برنامج تعليمي SD] للانضمام إلى المجموعة لمناقشة المشكلات الفنية المختلفة ومشاركة نتائج التطبيق↓

معلومات الاستشهاد

معلومات الاستشهاد لهذا المشروع هي كما يلي:

@misc{seed2025seed-oss,
  author={ByteDance Seed Team},
  title={Seed-OSS Open-Source Models},
  year={2025},
  howpublished={\url{https://github.com/ByteDance-Seed/seed-oss}}
}

vLLM+بذرة نشر واجهة المستخدم المفتوحة على الويب-OSS-36B-Instruct | الدروس | HyperAI