الكمّ التوليدي ذو العرض الضيق للبيانات بدون بيانات

الكمّة العصبية هي طريقة فعالة لضغط النماذج العميقة وتحسين وقت تنفيذها وكفاءتها في استهلاك الطاقة، مما يسمح بنشرها على الأجهزة المحمولة أو المدمجة. تتطلب الطرق الحالية للكمّة البيانات الأصلية لل-Calibration أو التحسين الدقيق للحصول على أداء أفضل. ومع ذلك، في العديد من السيناريوهات الواقعية، قد لا تكون البيانات متاحة بسبب قضايا السرية أو الخصوصية، مما يجعل الطرق الحالية للكمّة غير قابلة للتطبيق. بالإضافة إلى ذلك، بسبب عدم وجود البيانات الأصلية، لا يمكن تطبيق الشبكات المعادية الجenerative (GANs) التي تم تطويرها مؤخرًا لإنشاء بيانات جديدة. رغم أن النموذج ذو الدقة الكاملة قد يحتوي على معلومات بيانات غنية، فإن هذه المعلومات بمفردها تكون صعبة الاستغلال لاستعادة البيانات الأصلية أو إنشاء بيانات جديدة ذات معنى. في هذا البحث، ندرس طريقة بسيطة ولكن فعالة تُعرف بـ "الكمّة بدون بيانات ذات نطاق بت منخفض" (GDFQ) للتخلص من عبء اعتماد البيانات. تحديدًا، نقترح جenerator مطابق للمعرفة لإنتاج بيانات مزيفة ذات معنى عن طريق استغلال معرفة حدود التصنيف والمعلومات التوزيعية في النموذج المدرب مسبقًا. بمساعدة البيانات المنشأة، يمكننا كمّ النموذج عن طريق تعلم المعرفة من النموذج المدرب مسبقًا. أظهرت التجارب الواسعة على ثلاثة مجموعات بيانات فعالية طرقنا. بشكل أكثر حرجًا، حققت طرقنا دقة أعلى بكثير عند الكمّ إلى 4 بت بالمقارنة مع طريقة الكمّة بدون بيانات الحالية. الرمز البرمجي متاح على https://github.com/xushoukai/GDFQ.请注意，这里“Calibration”被翻译为“الت head_calibration”，但根据上下文，更合适的翻译可能是“-calibration”或“-Calibration”。在阿拉伯语中，通常会省略这类词的冠词。另外，“generator”在文中被翻译为“جenerator”，这是为了保持术语的专业性和一致性，但在正式的阿拉伯语文本中，可能会将其完全翻译为“مولد”.