Optimize AI Factory Efficiency via Inference and Training
تواجه مصانع الذكاء الاصطناعي تحدياً جوهلياً يتمثل في محدودية سعة الطاقة الكهربائية، حيث تشكل فاتورة الكهرباء حتى أربعين بالمئة من تكاليف التشغيل. في ظل هذه القيود، أصبح مقياس الأداء لكل واط المعيار الأهم لتحديد تكلفة إنتاج التوكنات وربحية المنشآت الحاسوبية. وتؤكد نفيديا أن الحل الأمثل يكمن في التحسين الشامل عبر سلسلة الإمداد التقنية، بدءاً من بنية المعالجات وصولاً إلى برمجيات الجدولة وإدارة المرافق. يركز تحسين استدلالات النماذج الضخمة على تعظيم الإيرادات المباشرة، حيث يؤدي رفع معدل الاستدلال لكل واط إلى زيادة القدرة التنافسية وتوليد الرؤى بكفاءة أعلى. وتساهم هياكل نماذج الخلائط متعددة الخبراء في تقليل الاستهلاك الطاقي مقارنة بالنماذج الكثيفة، مع الحفاظ على دقة المعالجة. وعلاوة على ذلك، تتيح تنسيقات الدقة الضيقة مثل NVFP4 رفع سرعة الاستدلال مع الحفاظ على الدقة، مدعومةً بمنصات مثل TensorRT-LLM وDynamo لتسريع التنفيذ عبر البنية الحاسوبية. بالموازاة مع ذلك، يتعامل تحسين التدريب مع تحديات استهلاك الطاقة في الحوسبة المتوازية، حيث تؤدي الفجوات في موازاة الأحمال بين وحدات المعالجة إلى خمول أجزاء من النظام وهدر الطاقة. وبالتعاون مع مبادرة ML.ENERGY في جامعة ميشيغان، طورت نفيديا منهجيات جدولة ذكية تراعي المسار الحرج للحوسبة، مما يسمح بخفض تردد وحدات المعالجة الأقل حملاً دون التأثير على الوقت الكلي للتدريب، محققةً توفيراً في الطاقة يصل إلى خمس وعشرين بالمئة مع الحفاظ على سرعة الحلقات التدريبية. ويُدعم ذلك بنشر Megatron-LM كمرجع مفتوح المصدر للتحسين الواعي بالطاقة على مستوى النوى والبرمجة المتوازية. وتتولى منصة نفيديا DSX إدارة هذه الكفاءات على مستوى المصنع بأكمله، من خلال تقسيمها إلى طبقتين: MaxLPS للتحكم الديناميكي داخل الخوادم والتبريد السائل عند درجة حرارة دخول أربع وخمسين درجة مئوية، وFlex للربط الذكي مع إشارات الشبكة الخارجية وتخصيص الطاقة مرناً حسب توفرها وتكلفتها. تعمل المنصة كبنية تشغيلية موحدة تربط بين المحاكاة التصميمية وبيانات الاستشعار في الوقت الفعلي، مما يتيح تحديد الطاقة المعطلة وإعادة توجيهها نحو الحوسبات المنتجة للأرباح. وتُظهر القياسات العملية أن المصانع المحسّنة للأداء لكل ميغاواط يمكنها تحقيق ما يصل إلى ضعف ونصف ضعف عدد التوكنات في الثانية لكل ميغاواط مقارنة بالبنية غير المحسّنة. وفي ظل تحول معطيات التوكنات الاقتصادية إلى أهداف تصميمية أساسية، تتيح هذه الحلول الشاملة للشركات تحويل القيود الكهربائية إلى ميزة تنافسية، حيث يتم إعادة توجيه الطاقة المحررة من التدريب نحو الاستدلالات، مما يخفض التكلفة لكل توكن ويعزز مرونة التشغيل وموثوقيته على النطاق الصناعي.
