11日前

一石二鳥:部分FCを用いた顔認識CNNの効率的かつロバストな訓練

Xiang An, Jiankang Deng, Jia Guo, Ziyong Feng, Xuhan Zhu, Jing Yang, Tongliang Liu
一石二鳥:部分FCを用いた顔認識CNNの効率的かつロバストな訓練
要約

顔認識において、ミリオンスケールの実世界データセットとマージンベースのソフトマックス損失を用いた判別的深層特徴埋め込みの学習が、現在の最先端技術である。しかし、全結合(Fully Connected, FC)層のメモリおよび計算コストは、訓練データ内のクラス数に比例して増加するという問題がある。さらに、大規模な訓練データは必然的にクラス間の衝突(inter-class conflict)と長尾分布(long-tailed distribution)を抱えることになる。本論文では、FC層のスパース更新版として、部分的全結合層(Partial FC, PFC)を提案する。各反復において、正例クラス中心とランダムに選ばれた負例クラス中心のサブセットを用いて、マージンベースのソフトマックス損失を計算する。全クラス中心は訓練全体を通じて維持されるが、各反復ではその一部のみを選び、更新する。これにより、計算要求、クラス間衝突の発生確率、および末端クラス中心に対する被動的更新の頻度が著しく低減される。異なる訓練データおよびバックボーン(例えばCNNおよびViT)を用いた広範な実験により、提案手法PFCの有効性、ロバスト性および効率性が確認された。ソースコードは以下のURLから公開されている:\https://github.com/deepinsight/insightface/tree/master/recognition。

一石二鳥:部分FCを用いた顔認識CNNの効率的かつロバストな訓練 | 最新論文 | HyperAI超神経