HyperAIHyperAI

Command Palette

Search for a command to run...

SMPConv: تمثيلات النقاط الذاتية الحركة للالتفاف المستمر

Sanghyeon Kim Eunbyung Park

الملخص

التحويل المستمر قد اكتسب مؤخرًا أهمية كبيرة بسبب قدرته على التعامل مع البيانات المُعدَّة بشكل غير منتظم ونمذجة الارتباطات طويلة الأجل. بالإضافة إلى ذلك، نتائج التجارب الواعدة التي تحققت من استخدام النواة التحويلية الكبيرة قد دفعت بتطوير التحويل المستمر، حيث يمكن بناء هذه النواة بكفاءة عالية. الاستفادة من الشبكات العصبية، وبشكل أكثر تحديدًا الشبكات العصبية متعددة الطبقات (MLPs)، هي حتى الآن أبرز طريقة لتنفيذ التحويل المستمر. ومع ذلك، هناك بعض العيوب مثل الكلفة الحسابية المرتفعة، ضبط الهيبربارامتر المعقد، وقوة الوصف المحدودة للمرشحات. يقترح هذا البحث نهجًا بديلًا لبناء تحويل مستمر دون الحاجة إلى الشبكات العصبية، مما يؤدي إلى كفاءة حسابية أعلى وأداء محسن. نقدم تمثيلات النقاط الذاتية المتحركة حيث تتحرك معلمات الوزن بحرية، ويتم استخدام تقنيات الاستيفاء لتنفيذ الدوال المستمرة. عند تطبيقها لبناء النواة التحويلية، أظهرت نتائج التجارب تحسينات في الأداء مع إمكانية استبدالها مباشرة في الإطارات الموجودة. بفضل هيكلها الخفيف الوزن، نحن أول من يثبت فعالية التحويل المستمر في إعداد كبير الحجم، مثل ImageNet (إيميجدنت)، مما يوضح التحسينات على الأعمال السابقة. رمزنا البرمجي متاح على https://github.com/sangnekim/SMPConv


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp