HyperAIHyperAI

Command Palette

Search for a command to run...

基于自然梯度下降的图神经网络优化

Mohammad Rasool Izadi Yihao Fang Robert Stevenson Lizhen Lin

摘要

在本研究中,我们提出采用信息几何工具来优化图神经网络架构,例如图卷积网络(Graph Convolutional Networks)。具体而言,我们通过在优化过程中引入自然梯度信息,为基于图的半监督学习问题设计了相应的优化算法。该方法能够高效利用底层统计模型或参数空间的几何结构,从而提升优化与推断的效率。据我们所知,这是首次将自然梯度应用于图神经网络优化的研究,且该方法可拓展至其他半监督学习任务。为此,我们开发了高效的计算算法,并开展了广泛的数值实验,结果表明,所提出的算法在性能上显著优于现有的ADAM和SGD等优化方法。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供