عندما أصبحت "النماذج الكبيرة" حديث الساعة في الشوارع، حتى بين كبار السن والأطفال، لم تعد هذه الموجة التكنولوجية مقتصرة على الأبحاث العلمية أو نقاشات المستثمرين. هذه التكنولوجيا المبتكرة، التي لا تزال تتطور بسرعة، أحدثت تغييرات ملموسة لا حصر لها. ونتيجة لذلك، توسع النظام البيئي الصناعي والتطبيقي المحيط بنماذج التعلم الآلي الكبيرة بشكل سريع، مع تزايد أعداد الراغبين في استخدامها لأغراض مختلفة - فمنهم من يسعى لمواكبة أحدث التقنيات، ومنهم من يبحث عن فرص عمل جديدة، ومنهم من انجذب ببساطة إلى هذا التطور التكنولوجي المتسارع.

لكن بعيدًا عن الضجة الإعلامية، تبرز تدريجيًا مشكلة عملية أكثر: إن فهم نماذج اللغة الكبيرة وإتقانها ليس بالأمر السهل. بدءًا من مبادئ النموذج وأساليب التدريب وصولًا إلى تحسين الاستدلال وتطوير التطبيقات،سلسلة المعرفة المعنية طويلة، ومجموعة التقنيات معقدة. يصعب على المعلومات المجزأة دعم الإدراك المنهجي، وهناك عتبة واضحة بين المستويين المبتدئ والمتقدم.

وفي هذا السياق،حظي مشروع مفتوح المصدر يسمى LLM Course باهتمام واسع النطاق منذ إصداره، وحصل حتى الآن على 77000 نجمة.يقوم هذا النظام بإعادة تنظيم المعرفة المتناثرة في الأوراق والمدونات وممارسات البرمجة في نظام تعليمي ذي بنية واضحة ومسار محدد جيدًا.

بخلاف الدروس التعليمية المتفرقة أو الوثائق التقنية المنعزلة، تحاول دورة الماجستير في القانون الإجابة على سؤال أكثر منهجية -لإتقان نماذج اللغة الكبيرة حقًا، يجب على المرء أن يعرف ما يجب تعلمه، وبأي ترتيب، وكيفية تحويل تلك المعرفة إلى تطبيق عملي.من الرياضيات الأساسية والشبكات العصبية إلى تدريب النماذج ومواءمتها وتقييمها، ثم إلى RAG والوكيل والنشر، يقوم هذا المشروع بتقسيم نظام تكنولوجيا LLM المعقد إلى وحدات منظمة، مما يخلق مسارًا تعليميًا واضحًا نسبيًا.

باختصار، سواء كنت مبتدئًا أو مطورًا ذا خبرة، يمكنك العثور على موارد تعليمية مناسبة ضمن دورة ماجستير القانون. لتسهيل الممارسة السريعة،قامت شركة HyperAI بتحميل أجزاء من عروض Notebook التوضيحية من دورة LLM الخاصة بها إلى قسم "الدروس التعليمية".جميع بيئات التشغيل مهيأة بالكامل وجاهزة للاستخدام فور إخراجها من العلبة.

تشغيل عبر الإنترنت:

https://go.hyper.ai/xpEHI

تفاصيل البرنامج التعليمي كالتالي:

1. ضبط النموذج بدقة

الكون المثالى

يُعدّ الضبط الدقيق تقنية أساسية لتكييف النماذج المدربة مسبقًا مع مهام محددة. تتناول هذه الوحدة عدة طرق شائعة للضبط الدقيق:

* ضبط دقيق لبرنامج Llama 3.1 8B باستخدام Unsloth

يوفر إطار عمل Unsloth ضبطًا دقيقًا خاضعًا للإشراف عالي الكفاءة، مما يوفر أكثر من 701 TP3T من الذاكرة.    

* ضبط LLM باستخدام Axolotl    

إطار عمل متكامل لضبط الأداء يدعم نماذج متعددة واستراتيجيات تدريب متنوعة.    

ضبط إعدادات Llama 2 في Google Colab    

ممارسة الضبط الدقيق المجانية عبر السحابة: شرح مفصل لطريقة QLoRA    

* ضبط دقيق لجهاز ميسترال 7B باستخدام DPO    

تحسين التفضيلات المباشرة يحسن جودة محاذاة النموذج.    

* ضبط دقيق لـ Mistral 7B باستخدام SFT    

الإشراف على العملية بأكملها وضبطها بدقة، بدءًا من البيانات وحتى التقييم.    

2. القياس الكمي

التكميم

يُعد التكميم تقنية أساسية لتقليل تكاليف نشر النماذج، ويمكنه تقليل حجم النموذج بأكثر من 75%.

* تكميم GPTQ ذو 4 بت

شرح مفصل لخوارزمية GPTQ: تشغيل نماذج كبيرة على أجهزة المستهلك

* مقدمة في التكميم الموزون    

أساسيات التكميم: مقارنة بين FP32/FP16/INT8/INT4

* GGUF + llama.cpp التكميم    

التنسيق المفضل للنشر المحلي، مُحسَّن للاستدلال بواسطة وحدة المعالجة المركزية/وحدة معالجة الرسومات.    

* تكميم ExLlamaV2

أحد أسرع محركات الاستدلال، شرح مفصل لتنسيق EXL2.

3. تطبيقات متقدمة

استكشف أحدث التقنيات والتطبيقات المتقدمة في مجال ماجستير القانون.

* استراتيجيات فك التشفير لنماذج اللغة الكبيرة  

دليل شامل من البحث الجشع إلى أخذ عينات النواة    

* تعزيز الرسم البياني المعرفي 

ChatGPTRAG + الرسم البياني المعرفي: تقليل الأوهام وتحسين الدقة

* LazyMergekit

دمج النماذج بنقرة واحدة، مما يسمح لك بالعمل مع MoE حتى بدون وحدة معالجة الرسومات (GPU).

* دليل شامل لـ Mergekit

مبادئ وممارسات دمج النماذج، SLERP/TIES/DARE

* استخدم الإبادة لإزالة الرقابة

تقنية إزالة محاذاة النموذج لاستكشاف حدود سلوك النموذج

4. مجموعة الأدوات 

أدوات عملية لتحسين كفاءة التطوير وتبسيط عملية تطوير برامج الماجستير في القانون.

* التقييم التلقائي لبرنامج الماجستير في القانون    

تقييم النموذج تلقائيًا، تشغيل بنقرة واحدة باستخدام RunPod    

* الأكسولوتل الكسول

ضبط دقيق وتشغيل قائم على السحابة بنقرة واحدة، لا يتطلب أي تكوين معقد.

* نموذج شجرة العائلة

قم بتصور العلاقات بين النماذج لفهم تطور نموذج LLM.

أوتوكوانت

تحديد الكمية بنقرة واحدة، يدعم GGUF/GPTQ/EXL2/AWQ

* الاستئصال الذاتي

إزالة المحاذاة التلقائية، مجموعة بيانات مخصصة

* زيرو تشات

واجهة دردشة بدون وحدة معالجة رسومية، ميزة Hugging Face (بدون وحدة معالجة رسومية)

* إزالة التكرارات التلقائية

إزالة البيانات المكررة تلقائيًا: MinHash + إزالة البيانات المكررة دلاليًا

5. دورة الشبكات العصبية البيانية

دورة الشبكات العصبية البيانية

تُعد الشبكات العصبية البيانية أدوات قوية لمعالجة البيانات غير الإقليدية وتستخدم على نطاق واسع في الشبكات الاجتماعية وأنظمة التوصية وغيرها من المجالات.

* شبكات الالتفاف البياني (GCNs)    

دورة تمهيدية أساسية لشبكات الرسوم البيانية: نظرية الرسم البياني الطيفي وتمرير الرسائل    

* شبكة الانتباه البياني (GAT)

تطبيق آليات الانتباه على الرسوم البيانية

* GraphSAGE

تجميع عينات الرسوم البيانية على نطاق واسع، والتعلم الاستقرائي

* الشبكات المتماثلة للرسوم البيانية (GIN)

أقوى قدرة تعبيرية: اختبار وايسفيلر-ليمان

6. دروس تعليمية أخرى مفيدة

يغطي هذا البرنامج المهارات العملية في مجالات متعددة مثل أساسيات التعلم العميق، والتعلم المعزز، وتحسين البيانات.

بوت البحث عن الماس في ماينكرافت    

التعلم المعزز عمليًا: بيئة MineRL والتعلم المعزز Q    

* تحسين تكرار الصفوف في باندا

نصائح لتحسين أداء معالجة البيانات بأكثر من 100 ضعف

الموترات في التعلم العميق

أساسيات الموتر في PyTorch، آلية البث، التفاضل التلقائي

* برنامج تعليمي من Q Learning

مقدمة في التعلم المعزز: شرح مفصل لخوارزمية تكرار القيمة

7. البرمجة الخطية 

أساسيات بحوث العمليات: النمذجة الرياضية وحل مشاكل تحسين الموارد.

مقدمة في البرمجة الخطية    

طريقة سيمبلكس، نظرية الازدواجية، تحليل الحساسية    

البرمجة العددية الصحيحة مقابل البرمجة الخطية    

طريقة التفرع والتقييد، طريقة مستوى القطع  

* البرمجة المقيدة

CSP، البحث بالتراجع، نشر القيود 

* التحسين غير الخطي لميزانية التسويق    

التحسين المحدب، والانحدار التدريجي، وتعظيم منطقة الاهتمام    

ما سبق هو البرنامج التعليمي الذي توصي به HyperAI هذه المرة. الجميع مدعوون للحضور وتجربته!

رابط البرنامج التعليمي:

https://go.hyper.ai/xpEHI