DiNTS : Recherche différentiable de topologie de réseau neuronal pour la segmentation d'images médicales 3D

Récemment, la recherche d’architecture neuronale (NAS) a été appliquée pour rechercher automatiquement des réseaux à haute performance pour la segmentation d’images médicales. L’espace de recherche de la NAS comprend généralement un niveau de topologie réseau (qui contrôle les connexions entre les cellules à différentes échelles spatiales) et un niveau de cellule (les opérations à l’intérieur de chaque cellule). Les méthodes existantes nécessitent soit un temps de recherche long pour les grands jeux de données 3D, soit se limitent à des topologies prédéfinies (comme les architectures en forme de U ou à chemin unique). Dans ce travail, nous nous concentrons sur trois aspects fondamentaux de la NAS pour la segmentation d’images médicales 3D : une topologie de réseau multi-chemin flexible, une haute efficacité de recherche et une utilisation du GPU contrainte par un budget mémoire. Nous proposons un nouveau cadre différentiable permettant une recherche rapide basée sur les gradients dans un espace de recherche de topologie réseau hautement flexible. La discrétisation du modèle continu optimal recherché dans un cadre différentiable peut entraîner un modèle discret final sous-optimal (écart de discrétisation). Pour atténuer ce problème, nous introduisons une perte de topologie. En outre, la consommation de mémoire GPU pour le modèle 3D recherché est limitée par des contraintes budgétaires durant la phase de recherche. Notre méthode, appelée DiNTS (Differentiable Network Topology Search), a été évaluée sur le défi Medical Segmentation Decathlon (MSD), comprenant dix tâches de segmentation exigeantes. Notre approche atteint des performances de pointe et se classe en tête du classement du défi MSD.