HyperAIHyperAI

Command Palette

Search for a command to run...

自然言語推論データからの普遍的な文表現の監督学習

Alexis Conneau; Douwe Kiela; Holger Schwenk; Loic Barrault; Antoine Bordes

概要

多くの現代の自然言語処理(NLP)システムは、大規模なコーパス上で事前に行われた非監督学習によって得られた単語埋め込みを基本的な特徴として利用しています。しかし、文章のようなより大きなテキスト塊の埋め込みを取得する試みはそれほど成功していません。非監督的な文章表現の学習に関するいくつかの試みは、十分な性能に達せず、広く採用されるには至っていません。本論文では、スタンフォード自然言語推論データセットの教師ありデータを使用して訓練された普遍的な文章表現が、SkipThoughtベクトルなどの非監督方法よりも多様な転移タスクで一貫して優れた性能を示すことを示します。コンピュータビジョンがImageNetから特徴を取得し、それを他のタスクに転移させるように、私たちの研究は自然言語推論が他のNLPタスクへの転移学習に適していることを示唆しています。私たちのエンコーダーは公開されています。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
自然言語推論データからの普遍的な文表現の監督学習 | 記事 | HyperAI超神経