HyperAIHyperAI

Command Palette

Search for a command to run...

MentorNet: 学習データ駆動のカリキュラムを用いた破損ラベル上の非常に深いニューラルネットワークの学習

Lu Jiang Zhengyuan Zhou Thomas Leung Li-Jia Li Li Fei-Fei

概要

最近の深層ネットワークは、ラベルが完全にランダムであっても、全データを記憶する能力を持っています。このような汚染されたラベルに対する過学習を克服するために、私たちは基底となる深層ネットワーク(StudentNet)の学習を監督する別のニューラルネットワークであるMentorNetを学習する新しい手法を提案します。学習中に、MentorNetはStudentNetに対しておそらく正しいラベルを持つサンプルに焦点を当てるためのカリキュラム(サンプル重み付けスキーム)を提供します。既存のカリキュラムが通常人間の専門家によって事前に定義されるのとは異なり、MentorNetはStudentNetと共に動的にデータ駆動型のカリキュラムを学習します。実験結果は、私たちの手法が汚染された訓練データで学習した深層ネットワークの汎化性能を大幅に向上させることを示しています。特に、私たちが知る限りでは、WebVisionという大規模なベンチマークにおいて最良の公表結果を達成しました。このベンチマークには220万枚の現実世界におけるノイジーなラベル付き画像が含まれています。コードは以下のURLから入手できます: https://github.com/google/mentornet


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています