HyperAIHyperAI
منذ 15 أيام

تضمين مشترك للسياق اللغوي والهيكلية للغة في إكمال رسم المعرفة

Jianhao Shen, Chenguang Wang, Linyuan Gong, Dawn Song
تضمين مشترك للسياق اللغوي والهيكلية للغة في إكمال رسم المعرفة
الملخص

إن مهمة إكمال ثلاثيات المعرفة تمتلك تطبيقات متعددة في المهام اللاحقة. تلعب كل من المعلومات الهيكلية والدلالية دورًا مهمًا في إكمال رسم المعرفة. على عكس الطرق السابقة التي تعتمد إما على الهياكل أو الدلالات في رسم المعرفة، نقترح دمج المعلومات الدلالية الواردة في الوصفات اللغوية الطبيعية لثلاثيات المعرفة مع المعلومات الهيكلية بشكل مشترك. تعتمد طريقتنا على تضمين رسم المعرفة لغرض الإكمال من خلال تدريب النماذج اللغوية المُدرَّبة مسبقًا بعناية باستخدام خسارة منظمة احتمالية، حيث يُلتقط التمرير الأمامي للنماذج اللغوية الجوانب الدلالية، بينما تقوم الخسارة بإعادة بناء الهيكل. أظهرت تجاربنا الواسعة على مجموعة متنوعة من معايير رسم المعرفة أداءً يُعد من أفضل الأداءات الحالية. كما أثبتنا أن طريقتنا يمكنها تحسين الأداء بشكل كبير في البيئات ذات الموارد المحدودة، وذلك بفضل الاستخدام الأفضل للمعلومات الدلالية. يمكن الوصول إلى الكود والبيانات من خلال الرابط: https://github.com/pkusjh/LASS.

تضمين مشترك للسياق اللغوي والهيكلية للغة في إكمال رسم المعرفة | أحدث الأوراق البحثية | HyperAI