要約
事前学習された言語モデルを用いることで、検索ベースの対話システムは優れた性能を発揮する。これには、Transformerからの双方向エンコーダ表現（BERT）が含まれる。マルチターン応答選択の際、BERTは複数の発話からなる文脈と応答の関係を学習するが、文脈内の各発話間の関係性を十分に考慮していないため、この学習手法には限界がある。その結果、応答選択に必要な文脈の流れを完全に理解できず、問題が生じる。この課題に対処するために、マルチターン対話の特性を反映した新しい細粒度の微調整手法を提案する。具体的には、対話セッション内のすべての短い文脈-応答ペアを用いて、発話レベルの相互作用を学習する。さらに、新たな学習目的である「発話関連性分類」を導入することで、対話発話間の意味的関連性と一貫性をモデルが理解できるようにする。実験の結果、本モデルは3つのベンチマークデータセットにおいて、顕著な差をもって新たな最良性能を達成した。これは、細粒度の微調整手法が応答選択タスクにおいて非常に有効であることを示している。