HyperAIHyperAI

Command Palette

Search for a command to run...

小さな変化が大きな違いをもたらす:対話システムにおける多ターン応答選択の改善を細かいコントラスティブ学習を通じて実現する

Yuntao Li Can Xu Huang Hu Lei Sha Yan Zhang Daxin Jiang

概要

コンテキストに基づく応答選択の目的は、マルチターンのコンテキストが与えられた場合に、候補セットから適切な応答を見つけることです。事前学習言語モデル(PLMs)を用いた手法は、このタスクにおいて著しい改善をもたらしました。シーケンス表現は、対話コンテキストと応答との間のマッチング度の学習において重要な役割を果たします。しかし、異なるコンテキスト-応答ペアが同じコンテキストを共有する場合、PLMsによって計算されたシーケンス表現は常に高い類似性を持つことが観察されます。これにより、肯定的な応答と否定的な応答を区別することが難しくなります。このような問題点に着目し、我々はPLMsに基づく応答選択タスク向けに新しいFine-Grained Contrastive (FGC) 学習方法を提案します。このFGC学習戦略は、各対話の微細な粒度でのより区別可能なマッチング表現を生成するのに役立ち、さらに肯定的な応答を選択するためのより良い予測を行います。2つのベンチマークデータセットを用いた経験的調査では、提案したFGC学習方法が既存のPLMベースのマッチングモデルの性能を一般的かつ有意に向上させることを示しています。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています