Estimation du contraste du bruit NCE est une méthode d'estimation de modèle statistique proposée par Gutmann et Hyv¨arinen. Il est principalement utilisé pour résoudre des problèmes de calcul complexes de réseaux neuronaux et est actuellement largement utilisé dans les domaines du traitement d'images et du traitement du langage naturel.

L'idée de NCE

Comparez les échantillons réels avec les « échantillons de bruit » et trouvez les règles des échantillons réels à partir d'eux, c'est-à-dire « utilisez l'apprentissage comparatif » pour transformer le problème de génération de probabilités en un problème de classification binaire. En d’autres termes, comparez les échantillons réels avec les échantillons erronés échantillonnés aléatoirement à partir d’une distribution simple et essayez de trouver la différence entre les échantillons réels et les échantillons erronés.

Caractéristiques de NCE

NCE transforme les problèmes complexes en problèmes de classification binaire, c'est-à-dire que les vrais échantillons sont jugés comme 1 et les échantillons échantillonnés à partir d'une autre distribution sont jugés comme 0. De plus, NCE peut estimer directement les paramètres de distribution de probabilité lorsque le calcul du facteur de normalisation ne peut pas être effectué directement.

Mots apparentés : problème de classification binaire