HyperAIHyperAI

Command Palette

Search for a command to run...

SimCLS:要約生成のための対照学習のためのシンプルなフレームワーク

Yixin Liu Pengfei Liu

概要

本稿では、要約生成のための概念的に単純でありながら実証的に強力なフレームワーク、SimCLSを提案する。この手法は、現在主流であるシーケンス・トゥ・シーケンス学習フレームワークにおける学習目的と評価指標の乖離を解消するもので、対照学習(contrastive learning)を活用して、参照文を必要としない評価問題(すなわち、品質推定)としてテキスト生成を定式化することで実現している。実験結果から、既存のトップスコアシステムにわずかな修正を加えるだけで、SimCLSは既存の最先端モデルの性能を大幅に向上させることを示した。特に、CNN/DailyMailデータセットにおけるROUGE-1スコアにおいて、BARTに対して2.51の絶対的な向上、PEGASUSに対して2.50の向上を達成し、要約分野の最先端性能を新たな水準に引き上げた。本研究のコードおよび実験結果は公開しており、GitHubにて公開されている:https://github.com/yixinL7/SimCLS。また、提案するモデルの結果はExplainaBoardプラットフォームにデプロイされており、研究者が本システムの動作をより詳細かつ細粒度に理解できる環境を提供している


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
SimCLS:要約生成のための対照学習のためのシンプルなフレームワーク | 記事 | HyperAI超神経