摘要
部分模型曾尝试通过将知识图谱嵌入到相对较低的维度空间来解决链接预测问题，即知识图谱补全问题。然而，当前最先进的方法往往需要大幅提高嵌入的维度，这在面对大规模知识库时引发了显著的可扩展性问题。尽管近年来Transformer已被成功用作知识图谱的强大编码器，但现有模型仍存在可扩展性方面的局限。为克服这一瓶颈，本文提出一种基于Transformer的模型，旨在获得具有强表达能力的低维嵌入表示。我们通过引入大量自注意力头，作为实现查询相关投影的关键机制，以捕捉实体与关系之间的相互信息。在WN18RR和FB15k-237这两个标准链接预测基准上的实验结果表明，本模型在性能上与当前最先进的方法相比具有可比性，表现优异。尤为突出的是，与近期五种表现最佳的先进模型相比，本模型在嵌入维度上平均降低了66.9%，显著提升了模型的可扩展性。