HyperAIHyperAI
il y a 11 jours

HPTQ : Quantification post-entraînement友好的 matériel

Hai Victor Habi, Reuven Peretz, Elad Cohen, Lior Dikstein, Oranit Dror, Idit Diamant, Roy H. Jennings, Arnon Netzer
HPTQ : Quantification post-entraînement友好的 matériel
Résumé

La quantification des réseaux de neurones permet le déploiement de modèles sur des dispositifs embarqués. Une exigence essentielle pour assurer une efficacité matérielle est que les quantificateurs soient compatibles avec le matériel : uniformes, symétriques et dotés de seuils correspondant à des puissances de deux. À ce jour, selon nos connaissances, les méthodes actuelles de quantification post-entraînement ne permettent pas de satisfaire simultanément l'ensemble de ces contraintes. Dans ce travail, nous proposons un cadre de quantification post-entraînement adapté au matériel (HPTQ), qui résout ce problème en combinant de manière synergique plusieurs méthodes de quantification connues. Nous menons une étude à grande échelle sur quatre tâches — classification, détection d'objets, segmentation sémantique et estimation de posture — sur une large variété d'architectures de réseaux. Nos expériences approfondies montrent que des résultats compétitifs peuvent être obtenus tout en respectant les contraintes matérielles.

HPTQ : Quantification post-entraînement友好的 matériel | Articles de recherche récents | HyperAI