HyperAIHyperAI

Command Palette

Search for a command to run...

ソフトマックス交差エントロピーとネガティブサンプリングの統一的解釈:知識グラフ埋め込みにおける事例研究

Hidetaka Kamigaito Katsuhiko Hayashi

概要

知識グラフ埋め込みにおいて、ソフトマックス交差エントロピー損失関数とネガティブサンプリング損失関数の間の理論的関係はこれまで検討されておらず、これにより両者の損失関数の結果を公平に比較することが困難であった。本研究では、ブレグマン発散を用いることで、ソフトマックス交差エントロピー損失関数とネガティブサンプリング損失関数を統一的に解釈することにより、この問題を解決を試みた。この解釈の下で、両者の公平な比較に向けた理論的知見を導出できる。FB15k-237およびWN18RRデータセットにおける実験結果から、得られた理論的知見が実用的な設定においても有効であることが示された。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています