HyperAIHyperAI

Command Palette

Search for a command to run...

استخلاص المقاومة ضد التوزيعات غير المتشابهة من النماذج الأساسية للرؤية واللغة

Andy Zhou Jindong Wang Yu-Xiong Wang Haohan Wang

الملخص

نُقدِّم إطارًا مفاهيميًا بسيطًا وخفيفًا لتحسين مقاومة نماذج الرؤية من خلال دمج تقنيتي تTRANSFER المعرفة والتوسيع البيانات. ونُعالج الفرضية القائلة بأن النماذج الأكبر لا تمثل معلّمين أفضل، وذلك من خلال إظهار تحسينات كبيرة في مقاومة النماذج خارج التوزيع (out-of-distribution) عند تطبيق عملية نقل المعرفة من نماذج أساسية مُدرَّبة مسبقًا. استنادًا إلى هذا الاكتشاف، نُقدِّم تقنية "النقل العدواني المتقطع" (Discrete Adversarial Distillation - DAD)، التي تُستخدَم فيها نموذج مُعلّم مقاوم لإنشاء أمثلة عدائية، وتُستخدم VQGAN لتحويلها إلى تمثيلات منفصلة (discretized)، مما يُنتج عينات أكثر إفادة مقارنةً بتقنيات التوسيع القياسية. ونُقدِّم إطارًا نظريًا لاستخدام نموذج مُعلّم مقاوم في سياق نقل المعرفة مع التوسيع البيانات، ونُظهر تحسينات قوية في مقاومة النماذج خارج التوزيع والدقة على البيانات النظيفة عبر معماريات طالب مختلفة. وبشكل لافت، فإن طريقتنا تضيف حملًا حوسبية طفيفًا مقارنةً بالتقنيات المشابهة، ويمكن دمجها بسهولة مع تقنيات توسيع بيانات أخرى لتحقيق تحسينات إضافية.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp