HyperAIHyperAI

Command Palette

Search for a command to run...

Matching des scores de vraisemblance de débruitage pour la génération de données conditionnelle basée sur les scores

Chen-Hao Chao Wei-Fang Sun Bo-Wun Cheng Yi-Chen Lo Chia-Che Chang Yu-Lun Liu Yu-Lin Chang Chia-Ping Chen Chun-Yi Lee

Résumé

De nombreuses méthodes existantes de génération de données conditionnelles basées sur les scores exploitent le théorème de Bayes pour décomposer les gradients de la densité a posteriori logarithmique en un mélange de scores. Ces approches facilitent le processus d’entraînement des modèles de scores conditionnels, car un mélange de scores peut être estimé séparément à l’aide d’un modèle de score et d’un classificateur. Toutefois, notre analyse indique que les objectifs d’entraînement du classificateur dans ces méthodes peuvent entraîner un problème grave de désaccord des scores, correspondant à une situation où les scores estimés s’écartent des vrais scores. Ce problème conduit à une dérive des échantillons durant le processus de diffusion, en raison des scores déviants, ce qui se traduit par une qualité d’échantillonnage dégradée. Pour résoudre ce défaut, nous proposons une nouvelle fonction objectif d’entraînement, appelée perte de correspondance des scores par vraisemblance de débruitage (Denoising Likelihood Score Matching, DLSM), destinée à faire correspondre les gradients de la vraisemblance logarithmique réelle. Nos expérimentations montrent que la méthode proposée surpasser de manière significative les approches antérieures sur les benchmarks CIFAR-10 et CIFAR-100 selon plusieurs métriques d’évaluation clés. Nous concluons donc que, en adoptant la DLSM, les scores conditionnels peuvent être modélisés avec précision, et que l’impact du problème de désaccord des scores est efficacement atténué.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp