HyperAIHyperAI

Command Palette

Search for a command to run...

تعلم الاستنتاج المرتبط باستخدام ذاكرة الأوزان السريعة

Imanol Schlag Tsendsuren Munkhdalai Jürgen Schmidhuber

الملخص

يمكن للبشر أن يربطوا بسرعة بين المحفزات لحل المشكلات في سياقات جديدة. يتعلم نموذج الشبكة العصبية الجديد لدينا تمثيلات الحالة للحقائق التي يمكن توليفها لأداء هذا الاستدلال الترابطي. ولتحقيق ذلك، نُعدّل نموذج LSTM بإضافة ذاكرة ترابطية، تُسمى ذاكرة الأوزان السريعة (FWM). من خلال عمليات قابلة للتفاضل في كل خطوة من تسلسل الإدخال المعطى، يقوم LSTM بتحديث وصيانة الارتباطات التوليفية المخزنة في أوزان FWM التي تتغير بسرعة. يتم تدريب نموذجنا بشكل متكامل باستخدام الانحدار التدريجي، ويُظهر أداءً ممتازًا في مسائل الاستدلال اللغوي التوليفي، والتعلم التكراري المعتمد على الميتا-تعلم التفعيل، ونمذجة اللغة على مستوى الكلمات على نطاق صغير.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp