HyperAIHyperAI

Command Palette

Search for a command to run...

SimPLE:半教師付き分類における類似擬似ラベルの活用

Zijian Hu Zhengyu Yang Xuefeng Hu Ram Nevatia

概要

一般的な分類タスクの状況として、大量のデータが学習に利用可能である一方で、ラベル付きデータはわずかにしか存在しないケースが挙げられる。このような文脈において、半教師あり学習の目的は、ラベル付きデータに加えて大量のラベルなしデータから得られる情報を活用することで、分類精度を向上させることにある。近年の研究では、異なる増強処理を施したラベル付きデータとラベルなしデータ間の一貫性制約に着目することで、顕著な性能向上が達成されている。このアプローチに従い、本研究では、互いに類似する高信頼度のラベルなしデータ間のあまり注目されていない関係性に着目した新しい無監視目的関数を提案する。新たに提案する「Pair Loss」は、ある閾値を超える類似度を持つ高信頼度の擬似ラベル間の統計的距離を最小化することを目的としている。MixMatch系列で開発された技術と組み合わせることで、提案するSimPLEアルゴリズムはCIFAR-100およびMini-ImageNetにおいて従来の手法を大きく上回る性能を示し、CIFAR-10およびSVHNでは最先端の手法と同等の性能を達成している。さらに、ImageNetまたはDomainNet-Realで事前学習された重みで初期化されたモデルを用いた転移学習設定においても、SimPLEは最先端手法を上回る結果を示している。本研究のコードは、github.com/zijian-hu/SimPLEにて公開されている。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています