HyperAIHyperAI

Command Palette

Search for a command to run...

多様性と関連性の共同最適化におけるニューラル応答生成

Xiang Gao Sungjin Lee Yizhe Zhang Chris Brockett Michel Galley Jianfeng Gao Bill Dolan

概要

最近のニューラル会話モデルは大きな可能性を示していますが、しばしば単調で一般的な応答を生成する傾向があります。会話モデルの出力を多様化するために様々な手法が探究されてきましたが、その改善はしばしば関連性の低下を伴います。本論文では、多様性と関連性を同時最適化するSpaceFusionモデルを提案します。このモデルは、シーケンス・ツー・シーケンスモデルとオートエンコーダーモデルの潜在空間を新しい正則化項を活用して融合させることで実現します。その結果、予測応答ベクトルからの距離と方向がそれぞれ関連性と多様性に大まかに対応する潜在空間が誘導されます。この特性により、潜在空間の直感的な可視化も容易になります。自動評価および人間評価の結果は、提案手法が強力な基準モデルに対して多様性と関連性の両面で有意な改善をもたらすことを示しています。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
多様性と関連性の共同最適化におけるニューラル応答生成 | 記事 | HyperAI超神経