HyperAIHyperAI
منذ 2 أشهر

الأسس القوية لتعلم نصف المراقب العصبي تحت تحول المجال

Sebastian Ruder; Barbara Plank
الأسس القوية لتعلم نصف المراقب العصبي تحت تحول المجال
الملخص

في السنوات الأخيرة، تم اقتراح نماذج عصبية جديدة للتعلم في ظل تغير المجال (domain shift). ومع ذلك، فإن معظم هذه النماذج تقوم بتقييم أدائها على مهمة واحدة فقط، أو على مجموعات بيانات خاصة، أو بالمقارنة مع أسس ضعيفة، مما يجعل مقارنة النماذج صعبة. في هذا البحث، نعيد تقييم الأساليب التقليدية العامة للتدوير (bootstrapping) في سياق الشبكات العصبية تحت تغيرات المجال مقابل الأساليب العصبية الحديثة ونقترح طريقة جديدة للتدريب الثلاثي متعدد المهام التي تقلل من تعقيد الزمن والمساحة للتدوير الثلاثي الكلاسيكي. أظهرت التجارب الواسعة على مقاييسين أن النتائج سلبية: بينما يحدد أسلوبنا الجديد مستوى الأداء الرائد في تحليل المشاعر، فإنه لا يتميز بأفضلية ثابتة. وأهم من ذلك، نصل إلى الاستنتاج المفاجئ إلى حد ما بأن التدريب الثلاثي الكلاسيكي، مع بعض الإضافات، يتفوق على مستوى الأداء الرائد. نستنتج أن الأساليب التقليدية تمثل أساسًا مهمًا وقويًا.

الأسس القوية لتعلم نصف المراقب العصبي تحت تحول المجال | أحدث الأوراق البحثية | HyperAI