简介
简介:作者针对数据有限场景下GANs训练中的判别器过拟合问题,提出了CHAIN(Lipschitz连续性约束归一化)方法。作者首先从理论角度分析了GAN泛化误差,发现减少判别器权重梯度范数对提升泛化能力至关重要。然后深入研究了批归一化(BN)在GAN判别器中应用困难的根本原因,通过理论分析证明BN的中心化和缩放步骤会导致梯度爆炸。基于这些发现,CHAIN设计了两个核心模块:用零均值正则化替代中心化步骤的0MR模块,以及带有Lipschitz约束的自适应均方根归一化ARMS模块。CHAIN通过自适应插值机制平衡归一化和非归一化特征,有效避免判别器过拟合。实验表明,CHAIN在CIFAR-10/100、ImageNet以及多个少样本数据集上达到了最先进的性能,验证了其在数据受限场景下提升GAN泛化能力的有效性。
论文题目:CHAIN: Enhancing Generalization in Data-Efficient GANs via lipsCHitz continuity constrAIned Normalization