HyperAIHyperAI

Command Palette

Search for a command to run...

MentorNet:学习用于非常深神经网络的基于数据的课程以应对标签损坏问题

Lu Jiang Zhengyuan Zhou Thomas Leung Li-Jia Li Li Fei-Fei

摘要

近期的深度神经网络即使在标签完全随机的情况下也能记忆整个数据集。为了克服因标签损坏而导致的过拟合问题,我们提出了一种新的技术,即学习另一个神经网络——称为MentorNet——来监督基础深度网络(StudentNet)的训练。在训练过程中,MentorNet为StudentNet提供了一个课程(样本加权方案),使其能够专注于那些可能正确的标签样本。与现有的通常由人类专家预先定义的课程不同,MentorNet能够与StudentNet动态地学习一个数据驱动的课程。实验结果表明,我们的方法可以显著提高在损坏训练数据上训练的深度网络的泛化性能。值得注意的是,据我们所知,我们在WebVision这一包含220万张带有现实噪声标签图像的大规模基准测试中取得了最佳已发表的结果。代码位于https://github.com/google/mentornet


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供