AAAI 2021 共同タスクにおけるテキスト変換モデルの活用：英語におけるCOVID-19フェイクニュース検出

本稿では、AAAI 2021で実施された英語における新型コロナウイルス関連偽情報検出共同課題（COVID-19 Fake News Detection in English）に対して、我々が開発したシステムについて述べる。本システムは、テストセットにおいて重み付きF1スコア0.9859を達成し、3位の成績を収めた。具体的には、BERT、RoBERTa、ERNIEなど、複数の事前学習言語モデルを組み合わせたアンサンブル手法を提案した。さらに、ウォームアップ（warm-up）、学習率スケジューリング、k分割交差検証（k-fold cross-validation）などのさまざまな学習戦略を適用した。また、誤分類されたサンプルに対する広範な分析も実施した。本研究の実装コードは以下のURLで公開されている：https://github.com/archersama/3rd-solution-COVID19-Fake-News-Detection-in-English。