Jiacheng Liu Xinyu Wang Yuqi Lin Zhikai Wang et al

Résumé

Les modèles de diffusion sont devenus un pilier essentiel de l’intelligence artificielle générative moderne, en raison de leur qualité de génération exceptionnelle et de leur grande controllabilité. Toutefois, leurs itérations multi-étapes intrinsèques ainsi que leurs architectures de base complexes engendrent un surcroît computationnel prohibitif et un délai de génération élevé, constituant un goulot d’étranglement majeur pour les applications en temps réel. Bien que les techniques d’accélération existantes aient progressé, elles restent confrontées à des défis tels qu’une portée d’application limitée, des coûts d’entraînement élevés ou une dégradation de la qualité.Dans ce contexte, le mécanisme de mise en cache de diffusion (Diffusion Caching) s’impose comme une approche prometteuse, libre d’entraînement, indépendante de l’architecture et efficace au moment de l’inférence. Son mécanisme fondamental consiste à identifier et à réutiliser les redondances computationnelles inhérentes au processus de diffusion. En permettant une réutilisation croisée au niveau des caractéristiques entre étapes et une planification inter-couches, il réduit la charge computationnelle sans modifier les paramètres du modèle. Ce papier présente une revue systématique des fondements théoriques et de l’évolution du Diffusion Caching, tout en proposant un cadre unifié pour sa classification et son analyse.À travers une analyse comparative des méthodes représentatives, nous montrons que le Diffusion Caching évolue de la réutilisation statique vers une prédiction dynamique. Cette évolution renforce la flexibilité du mécanisme face à diverses tâches et permet son intégration avec d’autres techniques d’accélération, telles que l’optimisation de l’échantillonnage ou la distillation de modèle, ouvrant la voie vers un cadre d’inférence unifié et efficace pour les applications multimodales et interactives futures. Nous soutenons que ce paradigme deviendra un catalyseur clé de l’intelligence générative en temps réel et efficace, injectant une nouvelle dynamique tant au niveau théorique qu’appliqué dans le domaine de l’intelligence générative efficace.