HyperAIHyperAI

Command Palette

Search for a command to run...

事前学習モデルは知識グラフ補完に寄与するか?信頼性のある評価と妥当なアプローチ

Anonymous

概要

近年、事前学習された言語モデル(PLM)が大量のテキストから事実知識を捉える能力を持つことが示されており、これによりPLMを活用した知識グラフ補完(KGC)モデルの提案が進んできた。しかし、これらのモデルは依然として最先端(SOTA)のKGCモデルと比べて性能が劣っている。本研究では、この低性能の主な要因を以下の2点に特定した。(1)評価設定の不正確さ:閉世界仮定(CWA)に基づく評価設定は、PLMが外部知識を多く導入する特性を考慮していないため、PLMベースのKGCモデルの実力を過小評価してしまう可能性がある。(2)PLMの不適切な活用:多数のPLMベースKGCモデルは、エンティティおよび関係のラベルを単純に連結して入力としているが、その結果、意味的に整合性のない文が生成され、PLMに内在する知識を十分に活用できていない。これらの問題を軽減するため、開世界仮定(OWA)に基づくより正確な評価設定を提示する。OWAでは、知識グラフ(KG)に含まれない知識について、手動で正誤を確認することで、評価の信頼性を高める。さらに、プロンプトチューニングのアイデアを踏まえ、新たなPLMベースKGCモデル「PKGC」を提案する。本モデルの基本的な考え方は、各三項組とそのサポート情報を自然なプロンプト文に変換し、それをPLMに投入して分類処理を行うことである。2つのKGCデータセットにおける実験結果から、OWAは特にリンク予測においてKGCモデルの評価により信頼性があることが示され、また、PKGCモデルはCWAおよびOWAの両設定において有効性を確認した。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
事前学習モデルは知識グラフ補完に寄与するか?信頼性のある評価と妥当なアプローチ | 記事 | HyperAI超神経