HyperAIHyperAI

Command Palette

Search for a command to run...

NLIにおけるイテレーティブリファインメントエンコーダを用いた文埋め込み

Aarne Talman Anssi Yli-Jyrä Jörg Tiedemann

概要

文レベルの表現は、様々な自然言語処理(NLP)タスクにおいて必要不可欠です。再帰型ニューラルネットワーク(RNN)は分散表現を学習する上で非常に効果的であり、自然言語推論タスクで効率的に訓練することができます。本研究では、そのようなモデルを基盤として、反復的な改良戦略を実装し、SciTailデータセットで最先端の結果を達成するとともに、SNLIおよびMultiNLIでも優れた結果を示す階層的なBiLSTMと最大プーリング層の構造を提案します。この方法で学習された文埋め込みが多様な転移学習タスクに利用できることを示しており、10つのSentEval文埋め込み評価タスクのうち7つでInferSent、9つのうち8つでSkipThoughtを上回る性能を発揮しています。さらに、当モデルは最近公開された10つのSentEval探査タスクのうち8つにおいてInferSentモデルを凌駕しており、これらの探査タスクは文埋め込みが文の重要な言語的特性を捉える能力を評価するものとなっています。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています