事前学習済みのコンテキスト依存および非依存サブワード埋め込みが250以上の言語で利用可能となり、大規模な多言語自然言語処理（NLP）を可能にしています。しかし、事前学習済みの埋め込みは数多く存在する一方で、系統的な評価の不足により、実務者がそれらを選択することが困難となっています。本研究では、非依存サブワード埋め込みであるFastTextとBPEmb、そしてコンテキスト依存表現手法であるBERTを、多言語固有表現認識と品詞タギングにおいて広範囲に比較評価を行いました。その結果、全体的に見て、BERTとBPEmbと文字表現の組み合わせが最も効果的であることが示されました。より詳細な分析では、それぞれ異なる強みと弱点が明らかになりました：Multilingual BERTは中程度から高リソースの言語で優れた性能を発揮しますが、低リソースの設定では非依存サブワード埋め込みに劣ることがわかりました。