HyperAIHyperAI
il y a 2 mois

Mise en commun stochastique pour la régularisation des réseaux de neurones convolutifs profonds

Matthew D. Zeiler; Rob Fergus
Mise en commun stochastique pour la régularisation des réseaux de neurones convolutifs profonds
Résumé

Nous présentons une méthode simple et efficace pour la régularisation des grands réseaux de neurones convolutifs. Nous remplaçons les opérations de regroupement déterministes conventionnelles par une procédure stochastique, consistant à sélectionner aléatoirement l'activation au sein de chaque région de regroupement selon une distribution multinomiale, définie par les activités présentes dans cette région. Cette approche ne nécessite pas d'hyperparamètres et peut être combinée avec d'autres techniques de régularisation, telles que le dropout et l'augmentation des données. Nous obtenons des performances d'état de l'art sur quatre ensembles de données d'images, comparativement aux autres approches qui ne font pas usage de l'augmentation des données.

Mise en commun stochastique pour la régularisation des réseaux de neurones convolutifs profonds | Articles de recherche récents | HyperAI