جوجل تكشف أحدث وحدات TPU 8tx و8i Max لعصر الوكلاء
أعلنت جوجل حديثا توسيع منظومة وحدات المعالجة المتخصصة للذكاء الاصطناعي بإضافة نظامين جديدين إلى الجيل الثامن، يركزان على الحوسبة الوسيطة للوكلاء، بنظام ٨ ماكس للسياقات الضخمة وأعلى كثافة حوسبة في الخزانة، ونظام ٨ تي إكس للاستدلال الآمن والسري. ويعزز ذلك ما كشف عنه سابقا في معرض جوجل كلاود نكست في أبريل من نظام للتدريب الضخم ونظام للاستدلال الفوري، لتصبح هذه أول مرة تطرح فيها الشركة أربعة أنظمة من الجيل نفسه في عام واحد. وتعتمد هذه الحلول على خبرة تتجاوز عشرة أعوام من التصميم المشترك مع جوجل ديب مايند، وقد اتسع نطاقها من خدمة النماذج الداخلية إلى دعم عملاء السحابة الذين يتجاوز عددهم مئة عميل، من مختبرات ومؤسسات مالية ومتاجر وجامعات، إضافة إلى عملاء يختارون النشر المباشر داخل مراكز بياناتهم. وتحقق منظومة الجيل الثامن تقدما يبلغ نحو ٢٫٧ مرة في أداء التدريب، وتحسنا بنسبة ٨٠ في المئة في كلفة الاستدلال مقارنة بالجيل السابق. ويهدف نظام ٨ ماكس إلى تجاوز حدود الذاكرة عبر دعم نوافذ سياق تصل إلى ملايين الرموز مع كثافة عالية في الخزانة، بينما يعالج نظام ٨ تي إكس حاجة الجهات الخاضعة للتنظيم والقطاعات الحساسة إلى حماية البيانات وأوزان النماذج أثناء المعالجة الحية. ويتجاوز النظام الآمن الأساليب المعتادة التي تحفظ البيانات مشفرة قبل التخزين والنقل وتكشفها في الذاكرة عند الاستخدام، إذ يدمج الحماية في طبقة العتاد، مستخدما الرقائق نفسها المخصصة للتدريب مع مضيفات من جيل حديث لمعالجات إيه إم دي، وشبكة منخفضة الكمون، ما يوفر تأخيرا يقل بنحو مرتين عن الطراز المخصص للتدريب مع أثر أداء محدود، ويمكّن المؤسسات من ضبط النماذج وتقطيرها وتدريب وكلائها باستخدام بيانات خاصة دون نقلها بين أنظمة منفصلة. وتربط جوجل هذا التوسع ببرنامج مفتوح لتبسيط الوصول إلى المطورين، بعد تمكين تشغيل أكواد بايتوروتش ونماذج هافينغ فيس مباشرة على الوحدات، ودعم محركات الاستدلال مفتوحة المصدر، وطرح حزمة وكلاء لإعداد المهام وتشخيص الاختناقات وضبط الحزم باللغات الطبيعية، ومحرك تشغيل منخفض الكمون. وفي اختبارات الإنتاج الواقعية للوكلاء والسياقات الطويلة، سجلت الحزم البرمجية الأصلية تفوقا في سعر الأداء على نماذج مفتوحة واسعة، مع الحفاظ على دقة عالية. كما يقدم محرك جديد لخدمات الوكلاء وقف الجلسات غير النشطة ونقل الذاكرة العاملة خلال أجزاء من الثانية لتخفيض التكاليف، بينما توحد طبقة حالة النموذج تي بي يو سينك بين ذاكرة الرقاقة، وذاكرة المضيف، والتخزين المشترك، وشبكة مركز البيانات، لتوزيع الذاكرة المؤقتة الضخمة وتقليل زمن الاستجابة الأول بأكثر من تسعين بالمئة. وتوفر أدوات كلاود باثويز والأخذ الديناميكي للشرائح في جي كي إي إدارة الأنظمة الموزعة عبر وحدة تحكم واحدة وتكوين شبكات منطقية مرنة على الطلب، ما يسرع بدء المهام حتى خمسة أضعاف، واستعادة الأعطال حتى أربعة أضعاف ونصف، في نموذج يجمع بين العتاد المعدل والبرنامج المفتوح لتسريع عصر النماذج الوسيطة.
