درس تعليمي عبر الإنترنت丨2B يتفوق على 4B، نموذج مفتوح المصدر SOTA من نفس المستوى، OpenBMB تطلق MiniCPM5-2B، يدعم سياقًا طويلًا يصل إلى 131K واستدعاء الأدوات

من الأسئلة والأجوبة إلى البرمجة واستدعاء الأدوات، تتوسع قدرات المساعدين الذكاء الاصطناعي باستمرار. كيف يمكن تحقيق التوازن بين الاستدلال ومعالجة النصوص الطويلة وتطبيقات الوكلاء الأذكياء في ظل الموارد المحدودة، أصبحت هذه قضية رئيسية في النشر على الأجهزة الطرفية.

يوفر MiniCPM5-2B خيارًا خفيف الوزن. بصفته النموذج الثاني في سلسلة MiniCPM5 التي أطلقتها OpenBMB، يعتمد بنية LlamaForCausalLM القياسية، وهو موجه للنشر على الأجهزة الطرفية والاستدلال المحلي والسيناريوهات ذات الموارد المحدودة، ويدعم المطورين لبناء تطبيقات ذكاء اصطناعي عملية حول نماذج ذات معلمات صغيرة.

وفقًا للتقييمات الرسمية، حقق MiniCPM5-2B متوسط درجات 53.9 ضمن النطاق المقارن المذكور، ليصل إلى مستوى متقدم بين النماذج مفتوحة المصدر من فئة 2B، وتجاوزت بعض المؤشرات نماذج فئة 4B. تغطي قدراته استدلال الكود والاستدلال الرياضي وفهم السياقات الطويلة واستدعاء الأدوات ومهام الوكلاء الأذكياء، ويمكن استخدامها في المساعدة البرمجية وحل المشكلات والأسئلة والأجوبة المعرفية وغيرها من السيناريوهات. بالنسبة لاحتياجات معالجة النصوص الطويلة، يدعم MiniCPM5-2B أصليًا نافذة سياق يصل طولها إلى 131,072 رمزًا، مما يوفر مساحة لإدخال مستندات وأكواد وسجلات محادثات أطول.

بالإضافة إلى توليد النصوص، يدعم MiniCPM5-2B أيضًا استدعاء الأدوات بنمط XML، ويمكن استخدامه كأساس نموذجي لوكلاء البرمجة ووكلاء البحث وسير عمل استدعاء الأدوات الأخرى.

حاليًا، تم نشر برنامج تعليمي عملي بعنوان «MiniCPM5-2B: استدلال نموذج كبير من فئة 2B بمستوى SOTA على الأجهزة الطرفية» في قسم البرامج التعليمية في HyperAI، مع دعم للتجربة عبر الإنترنت والنشر بنقرة واحدة~

التشغيل عبر الإنترنت:

https://go.hyper.ai/q0Pc2المزيد من الدروس عبر الإنترنت:

https://hyper.ai/notebooks

صفحة العرض التجريبي

تشغيل العرض التجريبي

1. بعد الدخول إلى الصفحة الرئيسية لـ hyper.ai، اختر صفحة «الدروس»، أو انقر على «عرض المزيد من الدروس»، واختر «MiniCPM5-2B: نموذج كبير رائد من فئة 2B للاستدلال على الأجهزة الطرفية»، ثم انقر على «تشغيل هذا الدرس».

2. بعد انتقال الصفحة، انقر على "Clone" في الزاوية العلوية اليمنى لاستنساخ هذا البرنامج التعليمي إلى الحاوية الخاصة بك.

ملاحظة: يدعم الزاوية العلوية اليمنى من الصفحة تبديل اللغة، وتتوفر حالياً لغتان: الصينية والإنجليزية. تعرض هذه المقالة التعليمية الخطوات باستخدام اللغة الإنجليزية كمثال.

3. اختر «NVIDIA RTX 5090» وصورة «vllm»، ثم انقر على «متابعة تنفيذ المهمة».

4. 在 انتظار تخصيص الموارد، وعندما تتغير الحالة إلى «قيد التشغيل»، انقر فوق «فتح مساحة العمل» للدخول إلى Jupyter Workspace.

عرض النتائج

1. بعد انتقال الصفحة، انقر على ملف README على الجانب الأيسر، وبعد الدخول انقر على زر "تشغيل" (Run) في الأعلى.

2. بعد اكتمال التشغيل، يرجى فتح محطة طرفية جديدة وتنفيذ الأمر التالي لبدء تشغيل Open WebUI.

٣. بعد التشغيل، انقر على عنوان API على الجانب الأيمن للوصول إلى واجهة Open WebUI في المتصفح، وابدأ المحادثة مع النموذج المحلي.