HyperAIHyperAI
il y a 11 jours

Matching des scores de vraisemblance de débruitage pour la génération de données conditionnelle basée sur les scores

Chen-Hao Chao, Wei-Fang Sun, Bo-Wun Cheng, Yi-Chen Lo, Chia-Che Chang, Yu-Lun Liu, Yu-Lin Chang, Chia-Ping Chen, Chun-Yi Lee
Matching des scores de vraisemblance de débruitage pour la génération de données conditionnelle basée sur les scores
Résumé

De nombreuses méthodes existantes de génération de données conditionnelles basées sur les scores exploitent le théorème de Bayes pour décomposer les gradients de la densité a posteriori logarithmique en un mélange de scores. Ces approches facilitent le processus d’entraînement des modèles de scores conditionnels, car un mélange de scores peut être estimé séparément à l’aide d’un modèle de score et d’un classificateur. Toutefois, notre analyse indique que les objectifs d’entraînement du classificateur dans ces méthodes peuvent entraîner un problème grave de désaccord des scores, correspondant à une situation où les scores estimés s’écartent des vrais scores. Ce problème conduit à une dérive des échantillons durant le processus de diffusion, en raison des scores déviants, ce qui se traduit par une qualité d’échantillonnage dégradée. Pour résoudre ce défaut, nous proposons une nouvelle fonction objectif d’entraînement, appelée perte de correspondance des scores par vraisemblance de débruitage (Denoising Likelihood Score Matching, DLSM), destinée à faire correspondre les gradients de la vraisemblance logarithmique réelle. Nos expérimentations montrent que la méthode proposée surpasser de manière significative les approches antérieures sur les benchmarks CIFAR-10 et CIFAR-100 selon plusieurs métriques d’évaluation clés. Nous concluons donc que, en adoptant la DLSM, les scores conditionnels peuvent être modélisés avec précision, et que l’impact du problème de désaccord des scores est efficacement atténué.

Matching des scores de vraisemblance de débruitage pour la génération de données conditionnelle basée sur les scores | Articles de recherche récents | HyperAI