HyperAIHyperAI

Command Palette

Search for a command to run...

Transformerを用いたコンテキストの把握による知識ベースの強化:エンドツーエンド型タスク指向対話システムへ

Yanjie Gou Yinjie Lei Lingqiao Liu Yong Dai Chunxu Shen

概要

エンドツーエンドのタスク指向型対話システムに知識ベース(KB)を統合することは、KBコンテキストおよび対話コンテキストに関連するエンティティを適切に表現する必要があるため、困難である。既存の手法は、エンティティのKBコンテキストの一部しか捉えておらず、情報損失により表現が不十分となり、結果としてKB推論および応答生成に悪影響を及ぼすことがある。この問題に対処するため、我々は関連するすべてのエンティティおよび対話履歴を動的に把握することにより、エンティティ表現を完全にコンテキスト化することを検討する。これを実現するために、KBをシーケンスとして扱い、新しいメモリマスクを導入するCOntext-aware Memory Enhanced Transformerフレームワーク(COMET)を提案する。このマスクにより、エンティティが関連するエンティティおよび対話履歴にのみ注目するよう強制され、不関係なエンティティによる干渉を回避できる。広範な実験の結果、本研究で提案するCOMETフレームワークは、従来の最先端手法を上回る優れた性能を達成できることを示した。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
Transformerを用いたコンテキストの把握による知識ベースの強化:エンドツーエンド型タスク指向対話システムへ | 記事 | HyperAI超神経