HyperAI

Diffusionsverlust

Diffusionsverlust ist eine Verlustfunktion im Zusammenhang mit Diffusionsmodellen, die verwendet wird, um dem Modell dabei zu helfen, zu lernen, wie Rauschen schrittweise entfernt und die ursprüngliche Struktur der Daten während des Trainings wiederhergestellt werden kann. Das Diffusionsmodell läuft in zwei Phasen ab: dem Vorwärtsdiffusionsprozess und dem Rückwärtsdiffusionsprozess. Während des Vorwärtsdiffusionsprozesses fügt das Modell den Daten schrittweise Rauschen hinzu, bis die Daten vollständig in Rauschen umgewandelt sind. Während des umgekehrten Diffusionsprozesses lernt das Modell, wie Rauschen entfernt und die Daten wiederhergestellt werden.

Der Zweck der Diffusionsverlustfunktion besteht darin, den Vorhersagefehler des Rauschunterdrückungsprozesses zu minimieren, d. h. die Differenz zwischen den vom Modell vorhergesagten Rauschunterdrückungsergebnissen und den tatsächlichen Daten. Diese Verlustfunktion wird normalerweise basierend auf dem mittleren quadratischen Fehler (MSE) oder dem Prinzip der variationellen Inferenz definiert.