2ヶ月前

Speaker-Aware BERT for Multi-Turn Response Selection in Retrieval-Based Chatbots 話者認識型BERTを用いた検索ベースのチャットボットにおける多ターン応答選択

Jia-Chen Gu; Tianda Li; Quan Liu; Zhen-Hua Ling; Zhiming Su; Si Wei; Xiaodan Zhu
Speaker-Aware BERT for Multi-Turn Response Selection in Retrieval-Based Chatbots
話者認識型BERTを用いた検索ベースのチャットボットにおける多ターン応答選択
要約

本論文では、検索ベースのチャットボットにおけるマルチターン応答選択に事前学習済み言語モデルを活用する問題について研究を行いました。発話者の変化情報をモデルが認識できるようにするため、新たなモデルであるSpeaker-Aware BERT(SA-BERT)を提案しました。これは、マルチターン対話において重要な内在的特性である発話者の変化情報を考慮することを目的としています。さらに、発話者情報に基づいて最も重要な発話を少数選択し、フィルタリングされたコンテキストとするためのspeaker-aware disentanglement strategy(発話者認識解離戦略)も提案しました。最後に、ドメイン適応を行い、事前学習済み言語モデルにドメイン固有の知識を取り入れました。5つの公開データセットを用いた実験結果は、提案したモデルが既存のモデルよりも全ての評価指標で大幅に優れており、マルチターン応答選択において新しい最先端の性能を達成していることを示しています。

Speaker-Aware BERT for Multi-Turn Response Selection in Retrieval-Based Chatbots 話者認識型BERTを用いた検索ベースのチャットボットにおける多ターン応答選択 | 最新論文 | HyperAI超神経