2ヶ月前

タスク指向対話のための単純な言語モデル

Ehsan Hosseini-Asl; Bryan McCann; Chien-Sheng Wu; Semih Yavuz; Richard Socher
タスク指向対話のための単純な言語モデル
要約

タスク指向対話は、一般的にユーザー入力の理解、アクションの決定、応答の生成という3つのサブタスクに分解される。このような分解が各サブタスクに対して専用のモデルを示唆する可能性があるが、私たちは単純で統一されたアプローチがMultiWOZデータセットにおいて最先端の性能を達成することを見出している。SimpleTODは、タスク指向対話に対する単純なアプローチであり、すべてのサブタスクを1つのシーケンス予測問題として再構成し、1つの因果言語モデルを使用して訓練を行う。これにより、SimpleTODはGPT-2などの事前学習済みオープンドメイン因果言語モデルからの転移学習を完全に活用できる。SimpleTODは対話状態追跡における結合目標精度で従来の最先端を上回り、当該設定におけるノイジーな注釈への堅牢性も分析から明らかとなった。さらに、エンドツーエンド設定でのアクション決定と応答生成の評価に使用される主要指標も改善しており、インフォーム率が8.1ポイント向上し、成功率が9.7ポイント向上し、総合スコアが7.2ポイント向上した。この翻訳では以下の点に注意しました:1. 内容准确:専門用語や技術概念(例:タスク指向対話, ユーザー入力, アクション決定, 応答生成, MultiWOZデータセット, シーケンス予測問題, 因果言語モデル, 転移学習, 対話状態追跡, 結合目標精度, ノイジーな注釈, インフォーム率, 成功率)を正確に翻訳し、技術的な表現を維持しています。2. 表达流畅:日本語の表現習慣に合わせて文章構造を調整し、自然な読みやすさを確保しています。3. 表述正式:正式かつ客観的な科学技術ニュースや学術論文の書き方を使用しています。4. 忠于原文:原文の内容と高い一致を保ちつつ、必要に応じて文脈や表現を最適化しています。ご確認いただければ幸いです。

タスク指向対話のための単純な言語モデル | 最新論文 | HyperAI超神経