Tha3aroon at NSURL-2019 Task 8: アラビア語における意味的質問類似性

本稿では、NSURL 2019の意味的テキスト質問類似度タスクにおける当研究チームの取り組みを報告する。当チームの最高性能を発揮したシステムは、複数の革新的なデータ拡張技術を用いて訓練データを拡大した。その後、そのデータに対して事前学習済みのコンテキスト埋め込み（ELMo）を適用し、自己注意機構（self-attention）を備えたON-LSTMネットワークに投入する。これにより、質問ペア間の関係を予測するためのシーケンス表現ベクトルが得られる。このモデルは、公開リーダーボードにおいて96.499のF1スコアで1位（2位と同一スコア）、非公開リーダーボードにおいて94.848のF1スコアで2位（1位との差は1.076のF1スコア）を達成した。