إطار عمل تعلّم تبايني يُدرك التنبؤ في مرحلتين لـ NLU متعددة النوايا

تُشكّل فهم اللغة الطبيعية متعددة النوايا (NLU) تحديًا كبيرًا بسبب الالتباس الناتج عن وجود أكثر من نية واحدة داخل جملة واحدة. في حين أن الدراسات السابقة تدرّب النموذج بطريقة تناقضية لزيادة الفجوة بين العلامات المختلفة لعدة نوايا، فإنها لا تتماشى جيدًا مع الدقة المطلوبة في فهم اللغة الطبيعية متعددة النوايا. كما تتجاهل هذه الدراسات المعلومات الغنية الموجودة بين النوايا المشتركة، والتي يمكن أن تكون مفيدة في بناء فضاء تضمين أفضل، خاصة في السيناريوهات التي تفتقر إلى البيانات الكافية. نقدّم إطارًا ثنائي المراحل يُسمّى التعلّم التناقضي المُوجّه بالتنبؤ (PACL) لفهم اللغة الطبيعية متعددة النوايا، بهدف استغلال هذه المعرفة القيّمة. تعتمد طريقة عملنا على استغلال المعلومات المتعلقة بالنوايا المشتركة من خلال دمج التدريب المسبق على مستوى الكلمة مع التدريب الدقيق التناقضي المُوجّه بالتنبؤ. نقوم ببناء مجموعة بيانات للتدريب المسبق باستخدام استراتيجية تحسين البيانات على مستوى الكلمة. ثم، يقوم إطارنا بتعيين أدوار ديناميكية للعينات أثناء التدريب الدقيق التناقضي، مع إدخال خسارة تناقضية مُوجّهة بالتنبؤ لتعظيم تأثير التعلّم التناقضي. نقدم نتائج تجريبية وتحليلًا تجريبيًا أُجري على ثلاث مجموعات بيانات شائعة الاستخدام، ونُظهر أن طريقة العمل لدينا تتفوّق على أداء ثلاث قواعد متميزة (Baselines) في كل من السيناريوهات ذات البيانات القليلة والبيانات الكاملة.