意見採掘（Opinion Mining）、または感情分析（Sentiment Analysis）は、自然言語処理（NLP）の一分野であり、テキスト資料に含まれる主観的情報を特定し抽出することに焦点を当てています。これには、文章全体の感情極性（例：肯定的または否定的）を決定するだけでなく、文章中に表現された具体的な感情や意見を識別することも含まれます。このタスクには高度な機械学習と深層学習技術が使用されます。最近では、トランスフォーマーに基づく言語モデルが注目を集めています。アテンションメカニズムと並列計算のおかげで、人間の感情分析が直感的に行えるようになりました。これらの利点により、トランスフォーマーに基づくモデルは言語処理タスクにおいて非常に強力です。一方で、再帰型ニューラルネットワーク（Recurrent Neural Networks）は順次処理に多くの時間を費やすため、長いテキストの処理では失敗しやすいという弱点があります。本論文の範囲は、最先端のトランスフォーマーに基づく言語モデルの意見採掘における挙動を研究し、それらの主要な特徴を強調するために高レベルでの比較を行うことを目指しています。さらに、当該比較研究は生産エンジニアに対して重点的に取り組むべきアプローチを示唆し、研究者にとっても将来の研究課題に関するガイドラインを提供する有用な情報となっています。