17 天前

DiNTS:面向3D医学图像分割的可微分神经网络拓扑搜索

Yufan He, Dong Yang, Holger Roth, Can Zhao, Daguang Xu
DiNTS:面向3D医学图像分割的可微分神经网络拓扑搜索
摘要

近年来,神经架构搜索(Neural Architecture Search, NAS)已被应用于自动搜索适用于医学图像分割的高性能网络。传统的NAS搜索空间通常包含两个层级:网络拓扑层级(控制不同空间尺度单元之间的连接关系)和单元层级(每个单元内部的操作选择)。现有方法要么在大规模三维(3D)医学图像数据集上需要较长的搜索时间,要么受限于预定义的网络结构(如U型结构或单路径结构)。针对三维医学图像分割中的NAS,本文聚焦于三个关键问题:灵活的多路径网络拓扑设计、高效的搜索机制以及受预算约束的GPU显存使用。为此,本文提出一种新型可微分搜索框架,能够在高度灵活的网络拓扑搜索空间中实现快速的基于梯度的搜索。然而,在可微分架构搜索中,对所搜索到的最优连续模型进行离散化处理时,可能会导致最终离散模型性能次优(即存在“离散化差距”问题)。为缓解该问题,本文进一步引入一种拓扑损失(topology loss)以优化离散化结果。此外,在搜索过程中,所搜索的3D模型的GPU显存占用被严格控制在预算范围内。所提出的可微分网络拓扑搜索方法(Differentiable Network Topology Search, DiNTS)在医学分割十项挑战赛(Medical Segmentation Decathlon, MSD)上进行了评估,该挑战涵盖十项具有代表性的分割任务。实验结果表明,本文方法在MSD挑战赛中取得了当前最优的性能表现,并在官方排行榜上位列第一。