Qimera : Quantification sans données avec des échantillons de frontière synthétique

La quantification de modèles est reconnue comme une méthode prometteuse pour comprimer les réseaux neuronaux profonds, en particulier pour les inférences sur des appareils mobiles ou périphériques légers. Cependant, la quantification de modèles nécessite généralement l'accès aux données d'entraînement originales pour maintenir la précision des modèles à précision complète, ce qui est souvent impossible dans les scénarios réels en raison de problèmes de sécurité et de confidentialité. Une approche populaire pour effectuer la quantification sans accès aux données originales consiste à utiliser des échantillons générés synthétiquement, basés sur les statistiques de normalisation par lots ou l'apprentissage adversarial. Cependant, le principal inconvénient de ces approches est qu'elles s'appuient principalement sur un bruit aléatoire en entrée du générateur pour obtenir une diversité des échantillons synthétiques. Nous constatons que cela est souvent insuffisant pour capturer la distribution des données originales, en particulier autour des frontières de décision.Pour remédier à cette situation, nous proposons Qimera, une méthode qui utilise des plongements latents superposés pour générer des échantillons synthétiques supportant les frontières. Pour que les plongements latents superposés reflètent mieux la distribution originale, nous proposons également d'utiliser une couche supplémentaire de mappage désentrelacé et d'extraire des informations du modèle à précision complète. Les résultats expérimentaux montrent que Qimera atteint des performances de pointe dans diverses configurations pour la quantification sans données.Le code source est disponible à l'adresse suivante : https://github.com/iamkanghyunchoi/qimera.