التحسين الدقيق للنموذج اللغوي العالمي لتصنيف النصوص

التعلم النقل الاستقرائي قد أثر بشكل كبير على رؤية الحاسوب، ولكن الأساليب الحالية في معالجة اللغة الطبيعية لا تزال تتطلب تعديلات محددة للوظيفة وتدريب من الصفر. نقترح "تحسين النموذج اللغوي الشامل" (ULMFiT)، وهو طريقة فعالة للتعلم النقل يمكن تطبيقها على أي مهمة في معالجة اللغة الطبيعية، ونقدم تقنيات أساسية لتحسين النموذج اللغوي. طرقتنا تتفوق بشكل كبير على أفضل الطرق الحالية في ستة مهام تصنيف النصوص، حيث تقلل من الخطأ بنسبة 18-24% في معظم المجموعات البيانات. علاوة على ذلك، باستخدام فقط 100 مثال مصنف، فإنها تحقق أداءً يعادل التدريب من الصفر باستخدام 100 ضعف البيانات. نحن نوفر كودنا وأنموذجتنا المدربة مسبقًا كمصدر مفتوح.