HyperAIHyperAI

Command Palette

Search for a command to run...

النشاط النادر والاتصال النادر في التعلم الإشرافي

Markus Thom Günther Palm

الملخص

الندرة هي منظم مفيد للتعلم في مجموعة واسعة من التطبيقات، وبشكل خاص في الشبكات العصبية. يقترح هذا البحث نموذجًا يستهدف مهام التصنيف، حيث يتم استخدام النشاط النادر والاتصال النادر لتعزيز قدرات التصنيف. الأداة المستخدمة لتحقيق ذلك هي مشغل إسقاط يفرض الندرة، والذي يجد أقرب متجه بندرة محددة مسبقًا لأي متجه معطى. في الجزء النظري من هذا البحث، تم تطوير نظرية شاملة لمثل هذا الإسقاط. وفي الختام، تم إثبات أن الإسقاط قابل للمعايرة تقريبًا في كل مكان ويمكن تنفيذه كدالة انتقال عصبية سلسة. وبالتالي، يمكن ضبط النموذج بأكمله من البداية إلى النهاية باستخدام طرق تعتمد على التدرج. أظهرت التجارب التي أجريت على قاعدة بيانات MNIST للأرقام المكتوبة بخط اليد أن أداء التصنيف يمكن تعزيزه عن طريق النشاط النادر أو الاتصال النادر. ومع الجمع بين كليهما، يمكن أن يكون الأداء أفضل بكثير مقارنة بالنهج التقليدية غير النادرة.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp