HyperAIHyperAI

Command Palette

Search for a command to run...

Temporal FiLM: اكتساب الاعتماديات المتسلسلة الطويلة المدى من خلال التكييفات المخصصة للميزات.

Zayd Enam Sawyer Birnbaum Volodymyr Kuleshov Pang Wei W. Koh Stefano Ermon

الملخص

تمثيل المعرفة الذي يُعدّ دقيقًا في التقاط الاعتماديات الطويلة المدى في المدخلات التسلسلية — بما في ذلك النصوص، والصوتيات، والبيانات الجينومية — يُعدّ مشكلة محورية في التعلم العميق. تُقيّد النماذج التلافيفية ذات الاتجاه الأمامي بتفاعل الميزات ضمن مجالات استقبال محدودة، في حين أن الهياكل التكرارية قد تكون بطيئة وصعبة التدريب بسبب تلاشي المشتقات. هنا، نقترح مكونًا معماريًا جديدًا يُسمّى "التعديل الخطي المُخصص للسمات الزمنية" (TFiLM)، مستوحى من التطبيع المعياري المتكيف وتوسيعاته، والذي يستخدم شبكة عصبية تكرارية لتغيير تفعيلات نموذج تلافيفي. يُوسّع هذا النهج مجال استقبال النماذج التلافيفية التسلسلية بتكاليف حسابية ضئيلة جدًا. من الناحية التجريبية، وجدنا أن TFiLM يُحسّن بشكل كبير من سرعة التعلم والدقة في الشبكات العصبية ذات الاتجاه الأمامي على مجموعة متنوعة من مهام التعلّم التوليدية والتمييزية، بما في ذلك تصنيف النصوص وتحسين دقة الصوت.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp
Temporal FiLM: اكتساب الاعتماديات المتسلسلة الطويلة المدى من خلال التكييفات المخصصة للميزات. | مستندات | HyperAI