確率的エンドツーエンドのタスク指向対話モデルと潜在的な信念状態を用いた半教師付き学習向けのアプローチ

構造化された信念状態は、タスク指向対話システムにおけるユーザーゴール追跡とデータベースクエリに不可欠です。しかし、信念トラッカーの学習には、各ユーザー発話の高コストなターンレベルアノテーションが必要となることがよくあります。本論文では、未ラベルの対話データを半教師あり学習に活用することで、エンドツーエンド対話システムの構築における信念状態ラベルへの依存を軽減することを目指します。私たちは、信念状態を離散的な潜在変数として表現し、ユーザー入力に基づいてシステム応答と共に統合的にモデル化する確率的な対話モデルであるLAtent BElief State (LABES) モデルを提案します。このような潜在変数モデリングにより、原理に基づいた変分学習フレームワークのもとで半教師あり学習を開発することが可能となります。さらに、LABESの具体化としてコピー機能強化型Seq2SeqモデルであるLABES-S2Sを導入します。監督付き実験では、異なるスケールを持つ3つのベンチマークデータセットにおいてLABES-S2Sが優れた結果を示しました。未ラベルの対話データを利用することで、半教師ありLABES-S2Sは監督のみおよび半教師あり基準モデルを大幅に上回りました。特に注目に値するのは、MultiWOZにおいて性能低下なくアノテーション要件を50%削減できることです。