HyperAIHyperAI
منذ 16 أيام

التعلم المُخصَّص المُتَّفِق عليه باستخدام الهايبرنِت워ك

Aviv Shamsian, Aviv Navon, Ethan Fetaya, Gal Chechik
التعلم المُخصَّص المُتَّفِق عليه باستخدام الهايبرنِت워ك
الملخص

يُعَهِدُ التعلم المُتَّفِق المُخصَّص بتدريب نماذج تعلم الآلة لعدد من العملاء، كل عميل يمتلك توزيع بيانات خاص به. والهدف هو تدريب نماذج مخصصة بطريقة تعاونية، مع أخذ الفروق في توزيع البيانات بين العملاء بعين الاعتبار، وتقليل تكاليف الاتصال. نُقدِّم منهجية جديدة لحل هذه المشكلة باستخدام الشبكات الفائقة، ونُسمّيها pFedHN (الشبكة الفائقة المُتَّفِقَة المُخصَّصة). في هذا النهج، يتم تدريب نموذج شبكة فائقة مركزية لتوليد مجموعة من النماذج، نموذج واحد لكل عميل. وتُوفِّر هذه البنية التحتية مشاركة فعّالة للبارامترات بين العملاء، مع الحفاظ على القدرة على إنتاج نماذج شخصية فريدة ومتنوعة. علاوةً على ذلك، وبما أن بارامترات الشبكة الفائقة لا تُرسَل أبدًا، فإن هذا النهج يُفكّك تكلفة الاتصال من حجم النموذج القابل للتدريب. وقد اختبرنا pFedHN تجريبيًا في عدة تحديات تتعلق بالتعلم المُتَّفِق المُخصَّص، ووجدنا أنها تتفوّق على الطرق السابقة. وأخيرًا، وبما أن الشبكات الفائقة تشارك المعلومات بين العملاء، نُظهِر أن pFedHN قادرة على التعميم بشكل أفضل على عملاء جدد تختلف توزيعاتهم عن أي عميل تم ملاحظته أثناء التدريب.

التعلم المُخصَّص المُتَّفِق عليه باستخدام الهايبرنِت워ك | أحدث الأوراق البحثية | HyperAI