Nouvelle puce memristor pour une apprentissage fédéré plus efficace et sécurisé
Puce compute-in-memory prometteuse pour l'efficacité et la confidentialité des systèmes de fédération d'apprentissage Dans les dernières décennies, les chercheurs en informatique ont mis au point des techniques d'apprentissage automatique avancées capables de prédire des schémas spécifiques ou d'effectuer des tâches par l'analyse de grandes quantités de données. Cependant, ces progrès ont également révélé des vulnérabilités potentielles, car les informations sensibles peuvent être accédées par des tiers malveillants. Un approche qui offre une meilleure protection des données est l'apprentissage fédéré (AF), où une multitude d'utilisateurs entrainent ensemble un réseau neuronal partagé sans échanger leurs données brutes. Cette méthode est particulièrement utile dans des domaines comme la santé et la finance, qui stockent des données utilisateur extrêmement sensibles. Des chercheurs de l'Université de Tsinghua, de l'Institut de Recherche de Chine Mobile et de l'Université de Hebei ont récemment développé une nouvelle puce compute-in-memory basée sur des memristeurs pour l'apprentissage fédéré. Les memristeurs, composants électroniques non volatils, peuvent à la fois effectuer des calculs et stocker des informations, ajustant leur résistance selon la charge électrique qui les traverse. Cette puce, présentée dans un article publishé dans Nature Electronics, a été conçue pour améliorer l'efficacité et la sécurité des systèmes d'apprentissage fédéré. L'apprentissage fédéré permet généralement une formation collaborative de modèles ML grâce à l'encryption homomorphe, qui nécessite la génération de clés, la production de polynômes d'erreur et des calculs intensifs, augmentant ainsi la consommation de temps et d'énergie. Pour y remédier, les chercheurs ont proposé une architecture de puce compute-in-memory avec une fonction physique in-clonable (PUF) pour la génération de clés et un générateur de nombres truly aléatoires (TRNG) pour l'élaboration de polynômes d'erreur. "Nous rapportons une architecture de puce compute-in-memory basée sur des memristeurs, dotée d'une fonction physique in-clonable et d'un générateur de nombres truly aléatoires intégré," ont écrit Xueqi Li, Bin Gao et leurs collègues dans leur papier. "Notre approche comprend également une méthode de compétition-formant un tableau, un design de circuit d'extraction d'entropie basé sur la compute-in-memory et un schéma de codage basé sur un système de numération redondant en résidu, ce qui permet de mettre en œuvre ces diverses fonctions au sein du même tableau de memristeurs et circuits annexes." La puce proposée réduit le mouvement de données, optimisant ainsi la consommation d'énergie et de temps lors de l'entrainement collectif d'un réseau neuronal artificiel (RNA) via l'AF. Les chercheurs ont testé leur puce en la faisant utiliser par quatre participants humains pour co-entraîner un réseau à termes de mémoire courte et longue (LSTM, Long Short-Term Memory) à deux couches avec 482 poids, dans le but de prévoir des cas de septicémie, une condition médicale grave et potentiellement fatale causée par des infections sévères. "L'accuracy du test sur le tableau de memristeurs de 128 ko est seulement 0,12% inférieure à celle obtenue avec l'apprentissage centralisé logiciel," ont indiqué les auteurs. "Notre méthode offre également une réduction de la consommation d'énergie et de temps comparée à l'AF numérique conventionnelle." Les résultats de cette étude montrent que les architectures compute-in-memory basées sur des memristeurs peuvent grandement améliorer l'efficacité et la protection des données dans les systèmes d'apprentissage fédéré. A l'avenir, la puce développée par Li, Gao et leurs collègues pourrait être perfectionnée pour soutenir l'entrainement collectif d'autres algorithmes d'apprentissage profond sur diverses tâches pratiques. Évaluation par les professionnels de l'industrie Cette avancée représente un pas significatif vers des systèmes d'apprentissage fédéré plus robustes et sécurisés. Selon Robert Egan, évaluateur technique de Science X Network, "la puce compute-in-memory basée sur des memristeurs de Tsinghua University offre un potentiel considérable pour transformer les applications praktiques de l'apprentissage fédéré, en particulier dans des secteurs sensible où la confidentialité des données est une priorité absolue." Profil de l'entreprise China Mobile Research Institute, en partnership avec Tsinghua University et Hebei University, est à la pointe de la recherche et du développement dans les technologies de l'information et de la communication. Ils s'engagent à promouvoir l'innovation technologique pour améliorer la vie quotidienne et les services d'affaires, tout en mettant l'accent sur la protection des données et la cybersécurité. Leurs travaux dans le domaine des puces memristor et de l'apprentissage fédéré reflètent cet engagement en offrant des solutions novatrices et efficaces.