HyperAIHyperAI

Command Palette

Search for a command to run...

HyperNetworks

Ha David Dai Andrew Le Quoc V.

الملخص

تُركّز هذه الدراسة على الشبكات الفائقة (hypernetworks)، وهي منهجية تستخدم شبكة واحدة، تُعرف أيضًا باسم الشبكة الفائقة، لتوليد معاملات شبكة أخرى. توفر الشبكات الفائقة تعميمًا يشبه ما يُلاحظ في الطبيعة: العلاقة بين الـ"جينوتايب" (النمط الجيني) – أي الشبكة الفائقة – والـ"فينوتايب" (النمط الفيزيائي) – أي الشبكة الأساسية. وعلى الرغم من تشابهها مع نموذج HyperNEAT في سياق التطور، إلا أن الشبكات الفائقة التي نُظر إليها في هذه الدراسة تُدرّس بطريقة شاملة (end-to-end) باستخدام التغذية الخلفية (backpropagation)، مما يجعلها عادةً أسرع. ويتمحور تركيز هذه الدراسة على جعل الشبكات الفائقة مفيدة في الشبكات التلافيفية العميقة والشبكات التكرارية الطويلة، حيث يمكن اعتبار الشبكات الفائقة شكلاً مُرخّصًا من مشاركة المعاملات عبر الطبقات. وتكمن النتيجة الرئيسية في أن الشبكات الفائقة قادرة على توليد معاملات غير مشتركة لشبكات LSTM، وتحقيق نتائج قريبة من الأفضل حالياً في مجموعة متنوعة من مهام نمذجة التسلسلات، بما في ذلك نمذجة اللغة على مستوى الرموز، وإنشاء الكتابة اليدوية، والترجمة الآلية العصبية، مما يُشكّك في المفهوم التقليدي لمشاركة المعاملات في الشبكات التكرارية. كما تُظهر النتائج أن الشبكات الفائقة المطبقة على الشبكات التلافيفية تحقق أداءً مقبولًا في مهام التعرف على الصور مقارنةً بالنموذج الأساسي المتطور حديثًا، مع استهلاك عدد أقل من المعاملات القابلة للتعلم.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp