HyperAIHyperAI

Command Palette

Search for a command to run...

サンプリングが重要である!検索ベース対話システムにおけるマッチングモデル学習のためのネガティブサンプリング戦略に関する実証的研究

Chongyang Tao Wei Wu Rui Yan Dongyan Zhao Yansong Feng Jia Li

概要

リトリーバ型対話システムにおける効果的なモデル学習のための訓練データセットを自動構築する手法として、ネガティブ例のサンプリング方法を検討する。学習過程においてマッチングモデルに応じてネガティブ例を動的に適応させるという考え方を踏まえ、最小サンプリング、最大サンプリング、セミハードサンプリング、デイエイハードサンプリングの4つの戦略を検討した。3つのマッチングモデルを用いた2つのベンチマークにおける実証的研究の結果、広く用いられているランダムサンプリング戦略と比較して、前2つの戦略は性能低下を引き起こす一方で、後2つの戦略は両ベンチマークにおいてすべてのモデルの性能を一貫して向上させることを示した。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています