サンプリングが重要である！検索ベース対話システムにおけるマッチングモデル学習のためのネガティブサンプリング戦略に関する実証的研究

リトリーバ型対話システムにおける効果的なモデル学習のための訓練データセットを自動構築する手法として、ネガティブ例のサンプリング方法を検討する。学習過程においてマッチングモデルに応じてネガティブ例を動的に適応させるという考え方を踏まえ、最小サンプリング、最大サンプリング、セミハードサンプリング、デイエイハードサンプリングの4つの戦略を検討した。3つのマッチングモデルを用いた2つのベンチマークにおける実証的研究の結果、広く用いられているランダムサンプリング戦略と比較して、前2つの戦略は性能低下を引き起こす一方で、後2つの戦略は両ベンチマークにおいてすべてのモデルの性能を一貫して向上させることを示した。