HyperAIHyperAI

Command Palette

Search for a command to run...

التعلم التكاملي المخصص مع معلومات مخفية حول المُقدّم المخصص

Mingjia Shi Yuhao Zhou Qing Ye Jiancheng Lv

الملخص

التعلم المُتَّفَقَ (FL، باختصار) هو تقنية تعلم آلي موزعة تستخدم خوادم عالمية وعملاء متعاونين لتحقيق تدريب نموذج عالمي يحافظ على الخصوصية دون مشاركة البيانات مباشرة. ومع ذلك، يُعدّ مشكلة البيانات غير المتجانسة، واحدة من المشكلات الرئيسية في FL، سببًا في صعوبة أداء النموذج العالمي بشكل فعّال على البيانات المحلية لكل عميل. ولهذا السبب، يهدف التعلم المُتَّفَق الشخصي (PFL، باختصار) إلى تحسين أداء النموذج على البيانات المحلية قدر الإمكان. وتعتبر التعلّم بايزي (Bayesian learning)، حيث تُنظر إلى معاملات النموذج على أنها متغيرات عشوائية ذات افتراض أولي، حلاً عمليًا لمشكلة البيانات غير المتجانسة، نظرًا لاتجاه النموذج إلى التركيز أكثر على البيانات المحلية كلما زادت كمية البيانات المحلية المستخدمة، والعكس صحيح عندما تكون البيانات المحلية قليلة، فيركز على الافتراض الأولي. عند تطبيق التعلّم بايزي على PFL، يُوفّر النموذج العالمي المعرفة العالمية كافتراض أولي لعملية التدريب المحلية. في هذا البحث، نستخدم التعلّم بايزي لتمثيل PFL بافتراض افتراض أولي ضمن العائلة الأسية المُمَدودة، ونُقدّم إطارًا يُسمّى pFedBreD لحل المشكلة التي تمّ تمثيلها باستخدام تنظيم التباعد بريجمان (Bregman divergence regularization). من الناحية التجريبية، تُظهر تجاربنا أن افتراض الافتراض الأولي الكروي الغاوسي واستراتيجية الترتيب الأول لاختيار المتوسط تؤدي إلى تفوق كبير لاقتراحنا على خوارزميات PFL الأخرى في عدة معايير عامة مفتوحة.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp