HyperAIHyperAI

Command Palette

Search for a command to run...

利用概率最大输出单元改进深度神经网络

Jost Tobias Springenberg Martin Riedmiller

摘要

我们提出了一种最近引入的最大输出单元(maxout unit)的概率变体。利用最大输出单元的深度神经网络在性能上优于整流线性单元(rectified linear units),部分原因在于其在丢弃法(dropout)下的表现更为优异。然而,这也依赖于每个最大输出单元在其输入变化时的部分不变性,因为每个最大输出单元都会对一组线性变换执行池化操作。基于这一观察,我们提出了一个问题:是否可以在提高最大输出单元的不变性的同时保留其理想的特性?我们认为,我们的概率最大输出单元(probabilistic maxout unit,简称 probout 单元)成功实现了这一平衡。我们通过定量分析验证了这一观点,并报告了在三个具有挑战性的图像分类基准测试(CIFAR-10、CIFAR-100 和 SVHN)中,分类性能达到了或超过了当前的最先进水平。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供