HyperAIHyperAI

Command Palette

Search for a command to run...

コンテキスト意識型シーケンス・トゥ・シーケンスモデルにおける条件付けの改善

Xinyi Wang Jason Weston Michael Auli Yacine Jernite

概要

ニューラル系列から系列へのモデルは、単一の入力系列を単一の出力系列に写像することができる問題に於いて、すでに確立された手法である。本研究では、要約的質問応答や文書レベルの翻訳など、短いクエリと長いコンテキストの両方に条件づけられた生成タスクに注目する。標準的な系列から系列アプローチを改良し、クエリとコンテキストの両方をより効果的に活用するため、クエリとコンテキストの注目機構を統合する条件付けメカニズムを拡張する。さらに、提案モデルに適した簡潔かつ効率的なデータ拡張手法も導入する。3つの異なるタスクにおける実験結果から、両方の改良が一貫した性能向上をもたらすことが示された。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています