HyperAIHyperAI

Command Palette

Search for a command to run...

Softmax交叉熵与负采样的统一解释:以知识图谱嵌入为例的案例研究

Hidetaka Kamigaito Katsuhiko Hayashi

摘要

在知识图谱嵌入领域,softmax交叉熵损失函数与负采样损失函数之间的理论关系尚未得到充分研究,这使得两者结果的公平比较变得困难。为解决这一问题,本文尝试利用Bregman散度对softmax交叉熵损失与负采样损失函数进行统一解释。在此框架下,我们得以推导出可用于公平比较的理论结论。在FB15k-237和WN18RR数据集上的实验结果表明,这些理论发现能够在实际应用场景中得到有效验证。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供