Transformerを用いたコンテキストの把握による知識ベースの強化：エンドツーエンド型タスク指向対話システムへ

エンドツーエンドのタスク指向型対話システムに知識ベース（KB）を統合することは、KBコンテキストおよび対話コンテキストに関連するエンティティを適切に表現する必要があるため、困難である。既存の手法は、エンティティのKBコンテキストの一部しか捉えておらず、情報損失により表現が不十分となり、結果としてKB推論および応答生成に悪影響を及ぼすことがある。この問題に対処するため、我々は関連するすべてのエンティティおよび対話履歴を動的に把握することにより、エンティティ表現を完全にコンテキスト化することを検討する。これを実現するために、KBをシーケンスとして扱い、新しいメモリマスクを導入するCOntext-aware Memory Enhanced Transformerフレームワーク（COMET）を提案する。このマスクにより、エンティティが関連するエンティティおよび対話履歴にのみ注目するよう強制され、不関係なエンティティによる干渉を回避できる。広範な実験の結果、本研究で提案するCOMETフレームワークは、従来の最先端手法を上回る優れた性能を達成できることを示した。