HyperAIHyperAI

Command Palette

Search for a command to run...

التقييم الديناميكي لنموذج التسلسل العصبي

Ben Krause; Emmanuel Kahembwe; Iain Murray; Steve Renals

الملخص

نقدم منهجية لاستخدام التقييم الديناميكي لتحسين نماذج التسلسل العصبية. يتم تكيف هذه النماذج مع التاريخ الحديث من خلال آلية تعتمد على الانحدار التدرجي، مما يسبب لها تعيين احتمالات أعلى للأنماط التسلسلية المتكررة. أثبت التقييم الديناميكي فعاليته في مقارناتنا أكثر من الأساليب الحالية للتكيف. يحسن التقييم الديناميكي أفضل النتائج المحققة في مستوى الكلمات من حيث حيرة الكلمات (perplexity) على مجموعتي بيانات Penn Treebank و WikiText-2 إلى 51.1 و 44.3 على التوالي، ويحسن أفضل النتائج المحققة في مستوى الأحرف من حيث الإنتروبيا المتقاطعة (cross-entropy) على مجموعتي بيانات text8 و Hutter Prize إلى 1.19 بت/حرف و 1.08 بت/حرف على التوالي.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp