9日前

ACE:ワンショットにおける長尾認識を解決するためのアライ補完エキスパート

Jiarui Cai, Yizhou Wang, Jenq-Neng Hwang
ACE:ワンショットにおける長尾認識を解決するためのアライ補完エキスパート
要約

一段階型の長尾認識手法は、「さしきり( seesaw )」的な方法で全体的な性能を向上させている。すなわち、頭部(多数クラス)の精度を犠牲にして尾部(少数クラス)の分類を改善するか、あるいは頭部の精度をさらに高めながら尾部を無視するというトレードオフに直面している。既存の手法は、不均衡なデータセットでの事前学習と、バランスの取れたデータセットでの微調整という二段階の学習プロセスによってこのトレードオフを回避している。これにより高い性能が達成されているが、事前学習モデルの汎化能力に敏感であり、分類器の事前学習が適用できない検出やセグメンテーションなどの他のコンピュータビジョンタスクへは容易に統合できないという課題がある。本論文では、一段階型の長尾認識フレームワークとして「補完的専門家を統合する(ally complementary experts, ACE)」を提案する。ここで「専門家(expert)」とは、自身が主に学習するサブセットにおいて最も専門的な知識を持つモデルであり、他の専門家と比較して、あまり見られないカテゴリにおいて補完的役割を果たす。また、自身が一度も学習したことがないカテゴリに干渉されないよう設計されている。さらに、各専門家の学習速度をデータ分布に適応的に調整するための分布適応型最適化アルゴリズムを導入し、過学習を回避する。特別な工夫や複雑な構造を用いずに、ACEの基本バージョン(vanilla ACE)は、CIFAR10-LT、CIFAR100-LT、ImageNet-LT、iNaturalistの各データセットにおいて、現在の一段階型最先端(SOTA)手法を3~10%の範囲で上回っている。また、本手法は、一度の学習ステージで多数クラスと少数クラスの精度を同時に向上させることに成功し、初めて「さしきり」トレードオフを打破したと示された。コードと学習済みモデルは、https://github.com/jrcai/ACE で公開されている。

ACE:ワンショットにおける長尾認識を解決するためのアライ補完エキスパート | 最新論文 | HyperAI超神経