2ヶ月前
アラビア語多方言分割:bi-LSTM-CRF 対 SVM
Mohamed Eldesouki; Younes Samih; Ahmed Abdelali; Mohammed Attia; Hamdy Mubarak; Kareem Darwish; Kallmeyer Laura

要約
アラビア語の単語分割は、機械翻訳や情報検索など、さまざまな自然言語処理(NLP)アプリケーションにおいて重要な役割を果たします。単語分割とは、単語をその構成要素である語幹、接頭辞、接尾辞、およびクリティック(clitics)に分解することを指します。本論文では、4つの主要なアラビア方言の分割について、各方言に対して数千例の学習データのみを使用した2つの手法を比較しています。これらの手法は、問題をランキング問題として捉え、SVMランカーが最良の分割を選択する方法と、問題をシーケンスラベリング問題として捉え、bi-LSTM RNNとCRFを組み合わせて単語の最適な分割位置を決定する方法です。限られた学習データを使用することで、すべての方言に対して堅実な分割結果を得ることができました。さらに、現代標準アラビア語(Modern Standard Arabic)のデータを使用してドメイン適応を行うことや、文脈独立性を仮定することで全体的な結果が向上することも示しました。