2 个月前

关系预测作为辅助训练目标以改进多关系图表示

Yihong Chen; Pasquale Minervini; Sebastian Riedel; Pontus Stenetorp
关系预测作为辅助训练目标以改进多关系图表示
摘要

在多关系图上学习良好的表示对于知识库补全(KBC)至关重要。本文提出了一种新的自监督训练目标,用于多关系图表示学习,通过简单地将关系预测纳入常用的1对所有(1vsAll)目标中实现。新的训练目标不仅包含预测给定三元组的主语和宾语的项,还包含一个预测关系类型的项。我们分析了这一新目标如何影响KBC中的多关系学习:在多种数据集和模型上的实验表明,关系预测可以显著提高实体排序的效果,这是KBC中最广泛使用的评估任务。具体而言,在FB15k-237数据集上,MRR提高了6.1%,Hits@1提高了9.9%;在Aristo-v4数据集上,MRR提高了3.1%,Hits@1提高了3.4%。此外,我们观察到所提出的训练目标在高度多关系的数据集上特别有效,即包含大量谓词的数据集,并且在使用更大的嵌入维度时生成更好的表示。

关系预测作为辅助训练目标以改进多关系图表示 | 最新论文 | HyperAI超神经