KnowPrompt: تعديل النصوص مع الوعي بالمعرفة وتحسين التحسين التآزري لاستخراج العلاقات

في الآونة الأخيرة، حققت تقنية تعديل النصوص (prompt-tuning) نتائج واعدة في مهام التصنيف القليلة البيانات (few-shot classification). الفكرة الأساسية وراء تعديل النصوص هي إدراج قوالب نصية (أي قوالب) في المدخلات وتحويل مهمة التصنيف إلى مشكلة نمذجة لغوية مقنعة (masked language modeling). ومع ذلك، فيما يتعلق باستخراج العلاقات (relation extraction)، يتطلب تحديد قالب نص مناسب الخبرة في المجال، كما أن الحصول على كلمة تسمية مناسبة يكون مرهقًا ومُستغرقًا للوقت. بالإضافة إلى ذلك، هناك الكثير من المعرفة الدلالية والمسبقة بين تسميات العلاقات التي لا يمكن تجاهلها. لذلك، ركزنا على دمج المعرفة بين تسميات العلاقات في تقنية تعديل النصوص واستعرضنا نهج تعديل النصوص الواعي بالمعرفة مع الأمثلة التوافقية (Knowledge-aware Prompt-tuning with synergistic optimization - KnowPrompt). بشكل خاص، نقوم بحقن المعرفة الكامنة الموجودة في تسميات العلاقات في بناء القالب باستخدام كلمات نوع افتراضية قابلة للتعلم وكلمات الإجابة. ثم نقوم بتحسين تمثيلهما بطريقة توافقية باستخدام قيود مهيكلة. أظهرت النتائج التجريبية الشاملة على خمس مجموعات بيانات في بيئات ذات موارد قياسية ومنخفضة فعالية نهجنا. يتوفر شفرتنا المصدر ومجموعات البيانات الخاصة بنا على الرابط https://github.com/zjunlp/KnowPrompt لأغراض إعادة الإنتاج.