要約
金融センチメント分析は、その分野における専門的な言語とラベル付きデータの不足により、困難な課題となっています。一般目的のモデルは、金融文脈で使用される専門的な言語のため、十分に効果的ではありません。我々は、事前学習済み言語モデルがこの問題を解決するのに役立つと考えています。なぜなら、これらのモデルはより少ないラベル付き例を必要とし、さらにドメイン固有のコーパスで追加学習できるからです。本研究では、BERTを基盤とする言語モデルFinBERTを導入し、金融分野での自然言語処理（NLP）タスクに取り組むことを提案します。我々の結果は、2つの金融センチメント分析データセットにおいて現行の最先端技術よりもすべての評価指標で改善していることを示しています。また、较小规模の訓練データセットを使用し、モデルの一部のみを微調整した場合でも、FinBERTは最先端の機械学習手法を上回ることが確認されました。注：「较小规模」は中国語表現であり、「smaller」を日本語に翻訳する際には「より小さな」となります。したがって、「また、より小さな訓練データセットを使用し、モデルの一部のみを微調整した場合でも」と修正しました。