2ヶ月前

勾配表現を使用した知識ベース補完のための組成モデルの強化

Matthias Lalisse; Paul Smolensky
勾配表現を使用した知識ベース補完のための組成モデルの強化
要約

知識ベースデータのニューラルモデルは、通常、グラフオブジェクトの合成表現を用いています。エンティティとリレーションの埋め込みが系統的に組み合わせられ、候補の知識ベースエントリの真偽を評価します。ハーモニック文法に着想を得たモデルを提案し、このモデルでは学習された知識ベーストリプレットの適切性条件に対する最適化プロセスによりトリプレット埋め込みをトークン化します。この結果得られるモデルは「グラディエントグラフ」と呼ばれ、合成モデルとの連携として実装することで大幅な改善につながります。また、「超合成的」(supracompositional)なトリプレットトークン埋め込みが解釈可能な特性を持ち、結果として得られるトリプレット表現における推論に役立つことを示しています。

勾配表現を使用した知識ベース補完のための組成モデルの強化 | 最新論文 | HyperAI超神経