HyperAIHyperAI

Command Palette

Search for a command to run...

HPTQ : Quantification post-entraînement友好的 matériel

Hai Victor Habi Reuven Peretz Elad Cohen Lior Dikstein Oranit Dror Idit Diamant Roy H. Jennings Arnon Netzer

Résumé

La quantification des réseaux de neurones permet le déploiement de modèles sur des dispositifs embarqués. Une exigence essentielle pour assurer une efficacité matérielle est que les quantificateurs soient compatibles avec le matériel : uniformes, symétriques et dotés de seuils correspondant à des puissances de deux. À ce jour, selon nos connaissances, les méthodes actuelles de quantification post-entraînement ne permettent pas de satisfaire simultanément l'ensemble de ces contraintes. Dans ce travail, nous proposons un cadre de quantification post-entraînement adapté au matériel (HPTQ), qui résout ce problème en combinant de manière synergique plusieurs méthodes de quantification connues. Nous menons une étude à grande échelle sur quatre tâches — classification, détection d'objets, segmentation sémantique et estimation de posture — sur une large variété d'architectures de réseaux. Nos expériences approfondies montrent que des résultats compétitifs peuvent être obtenus tout en respectant les contraintes matérielles.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp