HyperAIHyperAI

Command Palette

Search for a command to run...

MLMLM: التنبؤ بالروابط باستخدام نموذج لغة ماسك ذات احتمالية متوسطة

Louis Clouatre Philippe Trempe Amal Zouaq Sarath Chandar

الملخص

تُعد قواعد المعرفة (KBs) سهلة الاستعلام، قابلة للتحقق، وقابلة للتفسير. ومع ذلك، فإن توسعتها تعتمد على عدد الساعات البشرية وبيانات عالية الجودة. أما نماذج اللغة المُقنّعة (MLMs)، مثل BERT، فإنها تتوسع مع قوة الحوسبة بالإضافة إلى البيانات النصية غير المنظمة. لكن المعرفة المحتوية داخل هذه النماذج ليست قابلة للتفسير بشكل مباشر. نقترح تنفيذ تنبؤ بالروابط باستخدام نماذج اللغة المُقنّعة لمعالجة كلا المشكلتين: مشكلة توسع قواعد المعرفة ومشكلة عدم قابلية تفسير نماذج اللغة المُقنّعة. ولتحقيق ذلك، نقدّم MLMLM، وهي نموذج لغة مُقنّع متوسط الاحتمال، وهو أسلوب يقارن الاحتمال المتوسط لتفعيل الكيانات المختلفة لإجراء تنبؤ بالروابط بطريقة قابلة للتحقيق. وقد توصلنا إلى نتائج من الطراز الرائد (SotA) على مجموعة بيانات WN18RR، وأفضل النتائج التي لا تعتمد على تمثيل الكيانات على مجموعة بيانات FB15k-237. كما حصلنا على نتائج مقنعة في تنبؤ الروابط بالنسبة لكيانات لم تُرَ من قبل، مما يجعل MLMLM أسلوبًا مناسبًا لإدخال كيانات جديدة إلى قاعدة معرفة.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp