HyperAI超神经

البرنامج التعليمي ومقدمة النموذج

يهدف هذا البرنامج التعليمي إلى نشر Mistral-Large-Instruct-2407-AWQ باستخدام واجهة برمجة التطبيقات المتوافقة مع OpenAI.

* فيديو تعليمي، انظر[دليل OpenBayes الرسمي] النشر السريع لنماذج Mistral-Large وLlama-3.1-405B فائقة الحجم"

Mistral-Large-Instruct-2407-AWQ هو نموذج الذكاء الاصطناعي الرائد من الجيل الجديد الذي أصدرته شركة الذكاء الاصطناعي الفرنسية Mistral AI، وبالتحديد Mistral Large 2. يحتوي النموذج على 123B معلمة، ونافذة سياق 128k، ويدعم العشرات من اللغات بما في ذلك الصينية وأكثر من 80 لغة برمجة مثل Python وJava وC وC++ وJavaScript وBash. يتمتع Mistral Large 2 بتحسينات كبيرة في القدرات المتعددة اللغات والرياضيات والمنطق وكتابة التعليمات البرمجية وما إلى ذلك، ولديه دقة تبلغ 84.0% على MMLU.

يشير "API المتوافق مع OpenAI" إلى واجهة برمجة التطبيقات (API) التي تتبع معايير الواجهة والمواصفات التي وضعها OpenAI، مما يسمح للمطورين باستخدام واجهات برمجة التطبيقات هذه للتفاعل مع نماذج لغوية كبيرة (مثل نماذج سلسلة GPT الخاصة بـ OpenAI). تعني هذه التوافقية أن مطوري الطرف الثالث يمكنهم دمج وظائف مماثلة في تطبيقاتهم الخاصة باستخدام نفس تنسيقات الطلب والاستجابة مثل OpenAI. على سبيل المثال، إذا قام مطور ببناء روبوت محادثة باستخدام واجهة برمجة التطبيقات الخاصة بـ OpenAI، فيمكنه التبديل بسهولة إلى خدمة أخرى تتبع أيضًا معيار واجهة برمجة التطبيقات المتوافقة مع OpenAI دون إجراء تغييرات كبيرة على الكود الخاص به.

تتضمن الميزات الرئيسية لواجهة برمجة التطبيقات المتوافقة مع OpenAI ما يلي:

الطلبات الموحدة: تتبع طلبات واجهة برمجة التطبيقات تنسيق OpenAI، بما في ذلك المعلمات والبنية المطلوبة.
الاستجابات الموحدة: تتبع استجابات واجهة برمجة التطبيقات أيضًا تنسيق OpenAI، مما يجعل نتائج المعالجة والتحليل متسقة وقابلة للتنبؤ.
اتساق الوظائف: يوفر وظائف مماثلة لـ OpenAI، مثل إنشاء النصوص والترجمة والتلخيص وما إلى ذلك.
سهولة التكامل: يمكن للمطورين دمج واجهات برمجة التطبيقات هذه بسهولة في الأنظمة الموجودة، والاستفادة من الواجهات والأنماط المألوفة.

خطوات التشغيل

1. استنسخ الحاوية وابدأ تشغيلها في الزاوية اليمنى العليا من واجهة البرنامج التعليمي

ستقوم واجهة برمجة التطبيقات المتوافقة مع OpenAI تلقائيًا ببدء تشغيل جميع الخدمات بعد النشر الناجح، دون أي تدخل إضافي.

2. انسخ عنوان API إلى صفحة جديدة وافتحها

يمكنك أن ترى أنه يتم عرض رسالة 404 الافتراضية.

3. أضف معلمة إضافية '/v1/models' بعد عنوان API

يمكنك أن ترى أن معلومات نشر النموذج معروضة.

4. في هذه المرحلة، يمكنك الاتصال بالنموذج في أي SDK متوافق مع OpenAI. هنا نأخذ OpenWebUI كمثال - نستخدم OpenWebUI المحلي لدمج واجهة برمجة التطبيقات هذه

ابدأ خدمة OpenWebUI محليًا، وابدأ اتصالاً إضافيًا في "الاتصال الخارجي"، وقم بملء واجهة برمجة التطبيقات في "OpenAPI" و➕ '/v1'. لا يوجد إدخال مخصص "مفتاح API" هنا. انقر فوق حفظ في الزاوية اليمنى السفلية.

5. تم الانتهاء من النشر

يمكنك أن ترى أن طراز Mistral Large 2407 123B موجود بالفعل في واجهة OpenWebUI. يمكنك التواصل مع النموذج الكبير بمجرد إدخال رسالة في أسفل الصفحة.