HyperAIHyperAI

Command Palette

Search for a command to run...

MSR-DARTS :rang stable minimal de la recherche d'architecture différentiable

Kengo Machida Kuniaki Uto Koichi Shinoda Taiji Suzuki

Résumé

Dans la recherche d’architecture neuronique (NAS), la méthode DARTS (Differentiable Architecture Search) a récemment suscité un vif intérêt en raison de son efficacité élevée. Elle définit un réseau sur-paramétré comprenant des arêtes mixtes, chacune représentant l’ensemble des opérateurs candidats, et optimise de manière itérative les poids du réseau et son architecture. Toutefois, cette approche tend à converger rapidement vers un modèle dont les poids se stabilisent plus vite que ceux des autres, ce qui conduit fréquemment à un surapprentissage. En conséquence, le modèle obtenu ne se généralise pas toujours de manière optimale. Pour surmonter ce problème, nous proposons une méthode appelée MSR-DARTS (Minimum Stable Rank DARTS), qui cherche un modèle offrant la meilleure erreur de généralisation en remplaçant l’optimisation de l’architecture par un processus de sélection fondé sur le critère du rang stable minimal. Plus précisément, chaque opérateur de convolution est représenté par une matrice, et MSR-DARTS sélectionne celui présentant le plus petit rang stable. Nous avons évalué MSR-DARTS sur les jeux de données CIFAR-10 et ImageNet. Sur CIFAR-10, il atteint un taux d’erreur de 2,54 % avec seulement 4,0 millions de paramètres en 0,3 jour de calcul GPU, tandis qu’il obtient un taux d’erreur top-1 de 23,9 % sur ImageNet. Le code officiel est disponible à l’adresse suivante : https://github.com/mtaecchhi/msrdarts.git.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
MSR-DARTS :rang stable minimal de la recherche d'architecture différentiable | Articles | HyperAI