TAPE: تقييم الفهم اللغوي الروسي قائم على أمثلة قليلة

أظهرت التطورات الحديثة في التعلم الصفرية والتعلم القليلة الإمكانيات واعدة في نطاق واسع من الأغراض البحثية والعملية. ومع ذلك، يعاني هذا المجال السريع النمو من غياب مجموعات تقييم معيارية للغات غير الإنجليزية، مما يعيق التقدم خارج النموذج الإنجليزي السائد. لمعالجة هذا المجال البحثي، نقترح TAPE (تقييم الهجمات والتشويش النصي)، وهي معيار جديد يشمل ستة مهام أكثر تعقيدًا في فهم اللغة الطبيعية (NLU) للغة الروسية، تغطي الاستدلال متعدد الخطوات، والمفاهيم الأخلاقية، والمنطق والمعرفة الشائعة. يركّز تصميم TAPE على التقييم المنظم للتعلم الصفرية والتعلم القليلة في فهم اللغة الطبيعية: (أ) هجمات مُضادة موجهة نحو اللغة وتشويشات لتحليل المرونة، و(ب) مجموعات فرعية لتفسير دقيق. تشير التحليلات التفصيلية لاختبار النماذج التوليدية (autoregressive baselines) إلى أن التشويشات البسيطة القائمة على الإملاء تؤثر أكثر على الأداء، بينما تؤثر إعادة صياغة المدخلات بشكل أقل تأثيرًا. وفي الوقت نفسه، تُظهر النتائج فجوة كبيرة بين النماذج العصبية والأساسية البشرية في معظم المهام. ونُطلق TAPE علنًا (tape-benchmark.com) لتشجيع الأبحاث حول النماذج اللغوية القوية القادرة على التعميم على مهام جديدة عندما تكون الإشرافات محدودة أو غير موجودة.