HyperAI超神经
Back to Headlines

新型忆阻器芯片提升联邦学习效率与隐私保护水平

6 days ago

近期,来自清华大学、中国移动研究院和河北大学的研究团队开发了一种基于忆阻器的存储计算芯片,专为联邦学习设计。这项研究发表在《自然电子学》上,展示了该芯片在提高联邦学习效率和安全性方面的潜力。 联邦学习是一种允许多个用户或组织在不交换原始数据的情况下,共同训练共享神经网络的技术。这使得敏感数据(如医疗记录和金融信息)能够在保护隐私的前提下得到有效利用。然而,当前实现这一方法的主要障碍是在本地设备上实施同态加密时需要大量的计算资源,导致时间和能源消耗巨大。研究人员通过引入一个原位物理不可克隆函数来生成密钥,以及一个原位真随机数生成器来生成误差多项式,解决了这些难题。 该芯片使用了忆阻器,这是一种非易失性电子元件,能够根据过去的电流变化调整其电阻值,从而实现在同一设备内同时进行计算和存储。因此,这种架构可以显著减少数据的移动,降低多个参与方共同训练人工神经网络(ANN)所需的能量。此外,物理不可克隆函数和真随机数生成器的集成进一步增强了系统的安全性。 为了验证这一芯片的效果,研究人员进行了一个案例研究,让四位参与者共同训练一个具有482个权重的两层长短期记忆网络(LSTM),用于预测败血症。这一研究表明,该芯片在测试中的准确率仅比集中式软件学习低0.12%,但在能耗和时间消耗方面均有明显优势。具体而言,基于128KB的忆阻器阵列,这一芯片不仅能够在几乎相同的准确率下完成任务,还能大幅减少能量和时间的消耗。 未来,随着技术的不断改进,这款由李雪琦、高滨等研究人员开发的芯片有望被广泛应用于其他深度学习算法的共同训练中,为多种实际任务提供支持。这项创新不仅提高了联邦学习的效率,还强化了数据的安全性和隐私保护能力,具有重要的应用前景。 业内人士对这一研究成果给予了高度评价。他们认为,这一基于忆阻器的存储计算芯片为联邦学习技术的发展提供了一条全新路径,特别是在数据敏感的行业中,如医疗和金融,它将带来巨大的变革。清华大学和中国移动研究院作为国内顶尖的科研机构,在人工智能和芯片技术领域有着深厚的研究积累,此次合作也体现了中国在这一领域的能力和潜力。

Related Links