الرسوم البيانية للمعرفة هي موارد مهمة لعديد من مهام الذكاء الاصطناعي، ولكنها غالباً ما تعاني من النقص. في هذا البحث، نقترح استخدام نماذج اللغة المدربة مسبقًا لإكمال الرسوم البيانية للمعرفة. نعالج الثلاثيات في الرسوم البيانية للمعرفة كسلسلات نصية ونقترح إطارًا جديدًا يُسمى تمثيلات المُشفِّر الثنائي الاتجاه للرسوم البيانية للمعرفة من خلال التحويلات (KG-BERT). طريقة عملنا تأخذ وصف الكيان والعلاقة في ثلاثية كمدخل وتحسب دالة التقييم للثلاثية باستخدام نموذج اللغة KG-BERT. النتائج التجريبية على عدة رسوم بيانية للمعرفة معيارية تظهر أن طريقة عملنا يمكن أن تحقق أداءً رائدًا في تصنيف الثلاثيات، وتوقع الروابط، وتوقع العلاقات.