Greffage

Le greffage est une méthode simple d'édition de transformateurs de diffusion pré-entraînés (DiT) proposée par une équipe de l'Université de Stanford en 2025, qui ne nécessite qu'un petit budget de calcul.Exploration des conceptions de transformateurs de diffusion par greffage"

Le processus spécifique du greffage est le suivant :

Distillation d'activation : transférez la fonctionnalité de l'opérateur d'origine vers un nouvel opérateur et distillez ses valeurs d'activation via l'objectif de régression.
Réglage fin léger : atténuation de la propagation des erreurs causée par l'intégration de plusieurs nouveaux opérateurs en effectuant un réglage fin de bout en bout avec des données limitées.