2 个月前

COCO-GAN:通过条件协调生成局部图像

Chieh Hubert Lin; Chia-Che Chang; Yu-Sheng Chen; Da-Cheng Juan; Wei Wei; Hwann-Tzong Chen
COCO-GAN:通过条件协调生成局部图像
摘要

由于生物限制,人类只能与周围环境的一部分进行互动。因此,我们学会了通过一系列观察来推理空间关系,从而拼凑出周围的环境。受此行为的启发,并考虑到机器也存在计算限制,我们提出了一种基于条件坐标的生成对抗网络(\underline{CO}nditional \underline{CO}ordinate GAN, COCO-GAN),其生成器根据空间坐标作为条件生成图像的部分区域。另一方面,判别器通过全局一致性、局部外观和边缘交叉连续性来学习验证多个组装补丁的真实感。尽管在训练过程中从未生成完整的图像,但我们展示了COCO-GAN在推理阶段可以生成最先进质量的完整图像。此外,我们进一步展示了通过让网络具备坐标意识而实现的各种新颖应用。首先,我们在已学习的坐标流形上进行外推,并生成边界之外的补丁。结合原本生成的完整图像,COCO-GAN可以生成比训练样本更大的图像,我们称之为“超边界生成”。接着,我们在圆柱坐标系中展示全景图的生成,该方法天然保留了水平方向上的循环拓扑结构。从计算角度来看,COCO-GAN内置了分而治之的范式,在训练和推理过程中减少了内存需求,提供了高并行性,并且可以根据需要生成图像的部分区域。