HyperAIHyperAI

Command Palette

Search for a command to run...

Un Cadre Simple et Unifié pour la Détection d'Échantillons Hors Distribution et d'Attaques Adverses

Kimin Lee Kibok Lee Honglak Lee Jinwoo Shin

Résumé

La détection de spécimens de test suffisamment éloignés de la distribution d'entraînement, que ce soit de manière statistique ou adverse, est une exigence fondamentale pour déployer un bon classifieur dans de nombreuses applications réelles d'apprentissage automatique. Cependant, il est connu que les réseaux neuronaux profonds avec un classifieur softmax produisent des distributions postérieures très surconfiantes même pour ces échantillons anormaux. Dans cet article, nous proposons une méthode simple mais efficace pour détecter tout type d'échantillon anormal, applicable à tout classifieur neuronal pré-entraîné utilisant le softmax. Nous obtenons les distributions gaussiennes conditionnelles par classe en fonction des caractéristiques (de bas et haut niveau) des modèles profonds sous l'analyse discriminante gaussienne, ce qui conduit à un score de confiance basé sur la distance de Mahalanobis. Alors que la plupart des méthodes précédentes ont été évaluées pour détecter soit les échantillons hors distribution, soit les échantillons adverses, mais pas les deux simultanément, notre méthode proposée atteint des performances de pointe dans les deux cas lors de nos expériences. De plus, nous avons constaté que notre méthode proposée est plus robuste dans des situations difficiles, par exemple lorsque l'ensemble d'entraînement comporte des étiquettes bruyantes ou un petit nombre d'échantillons. Enfin, nous montrons que notre méthode peut être utilisée dans un cadre plus large en l'appliquant à l'apprentissage incrémentiel par classe : chaque fois qu'un échantillon hors distribution est détecté, notre règle de classification peut intégrer de nouvelles classes efficacement sans nécessiter un nouvel entraînement des modèles profonds.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Un Cadre Simple et Unifié pour la Détection d'Échantillons Hors Distribution et d'Attaques Adverses | Articles | HyperAI