HyperAIHyperAI

Command Palette

Search for a command to run...

階層的カリキュラム学習を用いた対話応答選択

Yixuan Su Deng Cai Qingyu Zhou Zibo Lin Simon Baker Yunbo Cao Shuming Shi Nigel Collier Yan Wang

概要

我々は対話応答選択のためのマッチングモデルの学習について研究しています。最近の研究で、ランダムなネガティブサンプルを用いて訓練されたモデルが実世界のシナリオでは理想的ではないことが示されています。これを受け、我々は「簡単から難しい」スキームでマッチングモデルを訓練する階層的なカリキュラム学習フレームワークを提案します。この学習フレームワークには、相補的な2つのカリキュラムが含まれています。(1) コーパスレベルのカリキュラム(CC);(2) インスタンスレベルのカリキュラム(IC)。CCにおいては、モデルが対話コンテキストと応答候補との間でのマッチング手がかりを見つける能力を段階的に向上させます。一方、ICにおいては、対話コンテキストと応答候補との間での非マッチング情報を識別する能力を段階的に強化します。3つのベンチマークデータセットと3つの最先端のマッチングモデルを使用した経験的研究により、提案された学習フレームワークが様々な評価指標においてモデル性能を大幅に向上させることが示されました。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています