HyperAIHyperAI

Command Palette

Search for a command to run...

منذ 2 أيام
LLM

شغّل نماذج LLM محليًا بأجهزة مخصصة

كشف المطور jamesob في يوليو 2026 عن دليل تقني متكامل منشور على منصة غيتهاب، يستعرض استراتيجيات تشغيل نماذج الذكاء الاصطناعي الكبيرة محلياً بكفاءة عالية، متخذاً من البنى التحتية المخصصة بديلاً عملياً للحوسبة السحابية المكلفة. يركز الدليل على نموذجين متكاملين يغطي كل منهما احتياجات مختلفة من المستخدمين المحترفين، مع تسليط الضوء على تفاصيل العتاد، التعديلات البرمجية، والمقاييس الأداءية الفعلية. يوضح المؤلف خيارين أساسيين بناءً على الميزانية المتاحة. يبدأ الخيار الأول بسعر يقارب ألفي دولار أمريكي، ويعتمد على بطاقتي RTX 3090يتين بتخزين فيديو إجمالي قدره 48 جيجابايت، مما يمكّن من تشغيل نماذج متقدمة مثل Qwen3.6-27B، بالإضافة إلى نماذج تحويل الكلام إلى نص بدرجة عالية من الدقة. أما الخيار الثاني، الذي يصل كلفته إلى أربعين ألف دولار، فيستهدف المستخدمين الذين يبحثون عن ذكاء يقارب مستوى كلاود أوبس، ويعتمد على أربعة وحدات من بطاقات RTX Pro 6000 بمجموع 384 جيجابايت من الذاكرة، مما يفتح الباب لتشغيل نماذج عملاقة مثل GLM-5.2-594B بكفاءة عالية. يركز الجزء التقني للدليل على معضلة تكلفة مكونات النظام الأساسية، حيث اعتمد المؤلف على معالجات AMD EPYC من الجيل السابق وذاكرة DDR4 بأسعار معقولة من السوق المستعمل، لإعادة توجيه الميزانية نحو سعة الذاكرة الفعلية للبطاقات بدلاً من الاعتماد على بنية PCIe 5.0 وDDR5 باهظة الثمن. ولتجاوز اختناقات الاتصال بين البطاقات، استخدم المؤلف مبادلات PCIe من الجيل الرابع من الشركة المتخصصة c-payne، مما يسمح بتبادل البيانات مباشرة بين وحدات معالجة الرسومات دون المرور عبر المضيف المركزي. تطلّب ضبط هذا التكوين تعديلات دقيقة على نظام التشغيل والبيوس. شملت التعديلات تعطيل نظام IOMMU لمنع تجميد الاتصالات عبر NCCL، وإيقاف تشغيل ACS لتوجيه حركة البيانات ثنائية الاتجاه داخل شبكة التبديل بدلاً من إعادة توجيهها عبر معالج الحاسوب، بالإضافة إلى ضبط معاملات GRUB وحدود استهلاك الطاقة لضمان التشغيل المستقر على دوائر كهربائية قياسية بقدرة 110 فولت. كما تضمنت العملية إعداد بيئة تشغيل معزولة عبر حاويات Docker، وربطها بخوادم استنتاج مخصصة تدعم قواعد سياقية تصل إلى 240 ألف رمز. أسفرت هذه الضبطيات عن تحقيق نتائج أداءية قياسية على المستوى المحلي، حيث سجلت المنصة عرض نطاق ترددي ثنائي الاتجاه يبلغ 50.4 جيجابايت في الثانية مع زمن استجابة دون الميكروثانية، وهو ما يعادل السرعة النظرية لمعايير الجيل الرابع. يقدم هذا الدليل خارطة طريق قابلة للتطبيق للشركات والمطورين الذين يسعون للسيطرة الكاملة على بياناتهم، وتقليل الاعتماد على المزودين السحابيين، مع الحفاظ على أداء يتناسب مع أحدث طرازات النماذج اللغوية المتقدمة.

الروابط ذات الصلة