HyperAIHyperAI

Command Palette

Search for a command to run...

言語における構成的汎化のための階層的ポセットデコーディング

Yinuo Guo Zeqi Lin Jian-Guang Lou Dongmei Zhang

概要

人間の言語理解を、出力が部分順序集合(poset)である構造化予測タスクとして形式化する。現在のエンコーダデコーダアーキテクチャは、意味のposet構造を適切に考慮していないため、構成的汎化能力に乏しいという問題を抱えている。本論文では、言語における構成的汎化を実現するための新しい階層的posetデコーディングパラダイムを提案する。直感的には、(1) 提案手法は意味空間における部分的な順序不変性(partial permutation invariance)を強制することで、偏りのある順序情報への過学習を回避する。(2) 階層的なメカニズムにより、posetの高レベルな構造を捉えることが可能となる。本研究では、構成的汎化を測定することを目的として特別に設計された、大規模かつ現実的な自然言語質問応答データセット「Compositional Freebase Questions(CFQ)」を用いて、提案するデコーダーの性能を評価した。その結果、従来のデコーダーを上回る性能が確認された。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
言語における構成的汎化のための階層的ポセットデコーディング | 記事 | HyperAI超神経