HyperAIHyperAI
il y a 17 jours

Compilation Contexte-Aware de Pipelines d'Entraînement de Réseaux de Neurones Profonds sur le Bord et le Nuage

{Xinbing Wang, Chao Li, Jiayu Xu, Zifan Wang, Liyao Xiang, Dixi Yao}
Résumé

Grâce à l’apprentissage automatique, les dispositifs au bord du réseau — smartphones, appareils portables et dispositifs IoT — sont devenus de plus en plus intelligents, ce qui entraîne des conflits croissants avec les ressources limitées. La personnalisation des modèles sur dispositif est particulièrement difficile, car l’entraînement des modèles sur ces dispositifs à la périphérie est extrêmement intensif en ressources. Dans ce travail, nous proposons une nouvelle pipeline d’entraînement intégrant à la fois le bord et le cloud, en exploitant la puissance du cloud tout en maintenant les données locales au niveau du bord. Les principaux aspects de cette conception incluent l’exécution en parallèle rendue possible par notre technique de répétition des caractéristiques, la réduction des coûts de communication grâce à notre compression des caractéristiques par retour d’erreur, ainsi qu’un moteur décisionnel de déploiement sensible au contexte. En tant que système intégré, le cadre de pipeline d’entraînement proposé accélère considérablement le processus d’entraînement tout en entraînant une perte d’exactitude négligeable, ainsi qu’un surcroît minimal de mémoire ou d’énergie. Nous avons testé notre système dans diverses configurations — Wi-Fi, 5G, IoT domestique — et pour différentes tâches d’entraînement telles que la classification d’images/textes ou la génération d’images, afin de démontrer son avantage par rapport aux approches de pointe. Les résultats expérimentaux montrent que notre système s’adapte non seulement efficacement aux contextes variables, mais en tire également parti, offrant ainsi une solution pratique et efficace pour l’entraînement de modèles entre le bord et le cloud.