TorchNeuron يبسط تشغيل نماذج HF على AWS Trainium

أعلنت هافينغ فايس وأمازون ويب سرفيسز عن إطلاق تورشنورون، إضافة أصلية جديدة لواجهة بايروتش تتيح تشغيل نماذج الذكاء الاصطناعي على شرائح ترينيوم المستخدمة في التدريب منخفض التكلفة. وستكون نسخة بيتا العامة متاحة ابتداء من ٢٠ أكتوبر ٢٠٢٦، ويمكن للمستخدمين تثبيتها من مدير حزم بايثون. ويقدم تورشنورون دعم مدمج في بايروتش لتشغيل فوري، وتجميع النماذج، وواجهات موزعة أصلية مثل التوترات الموزعة، وتجزئة الحالة الكاملة، والتوازي الموتر، بدلاً من الأسلوب السابق الذي اعتمد على أوبتيوم نيورون وبايروتش إكس إل إيه، وكانت تتطلب تنفيذاً غير فوري وأشكالاً ثابتة للموترات وإعادة ترجمة عند توقف الرسم. وبفضل هذا التغيير تصبح شرائح نيورون جهازاً مضافاً في مكتبات هافينغ فايس، بما في ذلك تراسفورمرز وديفيوزرز وأكسيليريت وبيفت وتي آر إل، ليستخدم المطورون الأنواع نفسها من الكود والأدوات المستخدمة مع أجهزة أخرى. ويقلل هذا التحول التعقيد في تشغيل النماذج ومشاركتها عبر مركز هافينغ فايس، إذ ارتفعت نسبة الدعم الجاهز لأكثر النماذج نصية استخداماً من ٤٦ في المئة إلى ٨٩ في المئة لأفضل ١٠٠ بنية. ويمكن نقل النموذج مباشرة إلى أجهزة نيورون عبر خيارات التخطيط، بينما تساعد تقنيات التوازي الموتر والذاكرة الثابتة في التوليد على تحقيق أداء أعلى وتقليل إعادة ترجمة النماذج. وفي التدريب، تعمل نصوص تي آر إل القياسية على ترينيوم دون مدرب مخصص أو نسخ خاصة من أكواد النموذج. وتتولى تراسفورمرز توزيع النموذج عبر تكوين موزع يحدد أبعاد التوازي الموتر والتجزئة، ثم يحفظ النموذج بصيغة معيارية قابلة للنشر إلى مركز هافينغ فايس والتحميل على أجهزة أخرى. وتظهر تجربة التدريب نجاح العملية على ٣٢ نواة نيورون ضمن نصف نسخة كبيرة من أجهزة ترينيوم ٢. أما في استدلال الصور، فتدعم مكتبة ديفيوزرز عدداً متزايداً من المواسير مثل فلاكس ١ ديف وفلاكس ٢ وكوين إميج ٢ وكوين إميج ٢.١ وإتش ٣، مع دعم التوازي الموتر للاستفادة من مجموعة أجهزة نيورون. كما يتيح استخدام واجهة نيورون كيرنل إنتر فيس تطوير عمليات مخصصة وتقسيمها، بما قد يرفع سرعة نماذج الرؤية إلى ٢.٤ مرة، في تعزيز لمنظومة تطوير الذكاء الاصطناعي على منصة أمازون السحابية.