17 天前

分区引导的GANs

Mohammadreza Armandpour, Ali Sadeghian, Chunyuan Li, Mingyuan Zhou
分区引导的GANs
摘要

尽管生成对抗网络(Generative Adversarial Networks, GANs)取得了显著成功,其训练过程仍面临诸多公认难题,包括模式崩溃(mode collapse)以及难以学习非连通流形集合等问题。本文将学习复杂高维分布、支持多样化数据样本这一复杂任务分解为若干更简单的子任务。我们的解决方案核心在于设计一种空间划分器(partitioner),将原始数据空间划分为若干较小的区域,每个区域内的数据分布相对简单,并为每个区域独立训练一个生成器。整个过程在无监督条件下完成,无需依赖任何标签信息。我们提出了空间划分器的两个关键设计准则,以促进混合生成器的训练:1)生成连通的划分区域;2)提供划分区域与数据样本之间的距离度量,并给出减小该距离的方向信息。上述准则旨在避免生成器从不存在数据密度的区域中采样,同时通过提供额外的优化方向,提升生成器的训练效率与稳定性。本文进一步推导出满足上述准则的理论约束条件,并基于理论分析设计了一种高效的神经网络架构用于实现空间划分器,实验结果表明该架构能够有效满足这些理论条件。在多个标准数据集上的实验结果表明,所提出的无监督模型在生成质量与多样性方面均显著优于近期多项先进方法。