محاذاة التضمينات الكلية السياقية بين اللغات، مع تطبيقات على تحليل الاعتماد بدون أمثلة

نقدم طريقة جديدة للنقل متعدد اللغات تستخدم التضمينات السياقية العميقة، التي تم تدريبها بطريقة غير مراقبة. رغم أن التضمينات السياقية أثبتت أنها توفر تمثيلات أكثر غنى للمعنى مقارنة بنظيراتها الثابتة، فإن محاذاتها تشكل تحديًا بسبب طبيعتها الديناميكية. لهذا الغرض، نقوم ببناء نسخ مستقلة عن السياق من الفضاءات الأحادية اللغة الأصلية واستخدام خرائطها لاستنتاج محاذاة للفضاءات المعتمدة على السياق. يدعم هذا الخريطة معالجة اللغة الهدف بشكل فعال، مما يحسن النقل بواسطة التضمينات الواعية بالسياق. تظهر نتائجنا التجريبية فعالية هذه الطريقة في تعلم التحليل الدلالي (dependency parsing) بدون أمثلة (zero-shot) وبأمثلة قليلة (few-shot). وبشكل خاص، حققت طرقنا أداءً أفضل بشكل ثابت من الحالة السابقة الأكثر تقدمًا في 6 لغات تم اختبارها، مما أدى إلى تحسين بمتوسط 6.8 نقطة في دقة التحليل الدلالي المتجهة (LAS).