2달 전

FinBERT: 사전 훈련된 언어 모델을 활용한 금융 감성 분석

Dogu Araci
FinBERT: 사전 훈련된 언어 모델을 활용한 금융 감성 분석
초록

금융 감성 분석은 전문적인 언어와 라벨링된 데이터의 부족으로 인해 어려운 과제입니다. 일반 목적 모델들은 금융 문맥에서 사용되는 전문적인 언어 때문에 충분히 효과적이지 않습니다. 우리는 사전 학습된 언어 모델이 이 문제를 해결하는 데 도움이 될 수 있다고 가정합니다. 이는 라벨링된 예제가 적게 필요하고, 특정 영역의 말뭉치로 추가 학습할 수 있기 때문입니다. 우리는 금융 영역의 자연어 처리(NLP) 과제를 해결하기 위해 BERT 기반의 언어 모델인 FinBERT를 소개합니다. 우리의 결과는 두 개의 금융 감성 분석 데이터셋에 대한 현재 최신 연구 결과보다 모든 측정 지표에서 개선된 것을 보여줍니다. 우리는 작은 훈련 세트와 모델의 일부만 미세 조정(fine-tuning)한 경우에도 FinBERT가 최신 머신러닝 방법들을 능가한다는 것을 발견했습니다.

FinBERT: 사전 훈련된 언어 모델을 활용한 금융 감성 분석 | 최신 연구 논문 | HyperAI초신경