HyperAIHyperAI

Command Palette

Search for a command to run...

vLLM + Open WebUI نشر KernelLLM-8B

Date

منذ 7 أشهر

Size

1.17 MB

License

Other

1. مقدمة البرنامج التعليمي

موارد الحوسبة المستخدمة في هذا البرنامج التعليمي هي بطاقة RTX 4090 واحدة.

KernelLLM هو نموذج لغة برمجة واسع النطاق مُصمم لتطوير نواة وحدة معالجة الرسومات (GPU)، أطلقته شركة Meta AI. يهدف إلى ترجمة وحدات PyTorch تلقائيًا إلى شيفرة نواة Triton فعّالة، مما يُبسط ويُسرّع عملية برمجة وحدات معالجة الرسومات عالية الأداء. يعتمد النموذج على بنية Llama 3.1 Instruct، ويحتوي على 8 مليارات مُعامل، ويُركز على توليد تطبيقات فعّالة لنواة Triton.

2. أمثلة المشاريع

3. خطوات التشغيل

1. ابدأ تشغيل الحاوية

إذا لم يتم عرض "النموذج"، فهذا يعني أنه يتم تهيئة النموذج. نظرًا لأن النموذج كبير الحجم، يرجى الانتظار لمدة 2-3 دقائق وتحديث الصفحة.

2. بعد الدخول إلى صفحة الويب، يمكنك بدء محادثة مع النموذج

4. المناقشة

🖌️ إذا رأيت مشروعًا عالي الجودة، فيرجى ترك رسالة في الخلفية للتوصية به! بالإضافة إلى ذلك، قمنا أيضًا بتأسيس مجموعة لتبادل الدروس التعليمية. مرحبًا بالأصدقاء لمسح رمز الاستجابة السريعة وإضافة [برنامج تعليمي SD] للانضمام إلى المجموعة لمناقشة المشكلات الفنية المختلفة ومشاركة نتائج التطبيق↓

Build AI with AI

From idea to launch — accelerate your AI development with free AI co-coding, out-of-the-box environment and best price of GPUs.

AI Co-coding
Ready-to-use GPUs
Best Pricing

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp