مقدمة البرنامج التعليمي

Phi-3.5-mini-instruct هو نموذج خفيف الوزن في سلسلة Phi-3.5 التي أطلقتها Microsoft في عام 2024. وهو مصمم للبيئات ذات موارد الحوسبة المحدودة ويحتوي على 3.8 مليار معلمة. إنه يدعم طول سياق يبلغ 128 ألف رمز وهو مناسب لمهام مثل إنشاء التعليمات البرمجية وحل المشكلات الرياضية والاستدلال القائم على المنطق. يؤدي النموذج أداءً جيدًا في مهام الحوار متعددة اللغات ومتعددة الأدوار، ويتفوق على النماذج الأخرى من نفس المستوى مثل Llama-3.1-8B-instruct و Mistral-7B-instruct في معيار RepoQA. تم تدريب Phi-3.5-mini-instruct باستخدام 512 وحدة معالجة رسومية H100-80G لمدة 10 أيام، وتحتوي بيانات التدريب على 3.4 تريليون رمز.

تم تصميم نموذج Phi-3.5-mini-instruct مع وضع مجموعة متنوعة من سيناريوهات الاستخدام في الاعتبار، بما في ذلك على سبيل المثال لا الحصر البيئات ذات الذاكرة أو موارد الحوسبة المحدودة، والسيناريوهات الحساسة للزمن، والتطبيقات التي تتطلب قدرات تفكير قوية (خاصة في الكود والرياضيات والمنطق). إنه يدعم لغات متعددة، بما في ذلك اللغة الصينية، وتم تحسينه ليناسب السيناريوهات الصينية. وعلى الرغم من أن حجم النموذج محدود وقد تكون هناك بعض الأخطاء الواقعية، إلا أنه من الممكن تقليل معدل الخطأ من خلال الجمع بين تقنيات مثل البحث.

يمكن البدء بهذا البرنامج التعليمي باستخدام بطاقة 4090 واحدة.

خطوات التشغيل

1. 克隆并启动容器后点击 API 地址即可进入 web 界面

2. 与模型进行对话