2달 전
고급 트랜스포머 기반 언어 모델의 진화 분석: 의견 채굴 실험
Nour Eddine Zekaoui; Siham Yousfi; Maryem Rhanoui; Mounia Mikram

초록
의견 채굴, 또는 감성 분석은 자연어 처리(NLP)의 하위 분야로, 텍스트 자료에서 주관적인 정보를 식별하고 추출하는 데 중점을 두고 있습니다. 이는 텍스트의 전반적인 감성(예: 긍정적 또는 부정적)을 결정하는 것뿐만 아니라, 텍스트에서 표현된 특정 감정이나 의견을 식별하는 것을 포함하며, 고급 머신 러닝 및 딥 러닝 기술을 활용합니다. 최근에 트랜스포머 기반 언어 모델은 주의 메커니즘과 병렬 계산 덕분에 인간의 감성 분석 작업을 직관적으로 만들어주고 있습니다. 이러한 장점들은 순환 신경망이 순차 처리에 많은 시간을 소비하여 긴 텍스트 처리 시 실패하기 쉬운 것과 달리, 언어 관련 작업에서 매우 강력한 성능을 발휘하게 합니다. 본 논문의 범위는 최첨단 트랜스포머 기반 언어 모델들의 의견 채굴 행동 특성을 연구하고, 그들의 핵심 특징을 강조하기 위해 고수준의 비교를 제공하는 것입니다. 또한, 우리의 비교 연구는 생산 엔지니어들에게 어떤 접근 방식에 집중해야 하는지를 안내하며, 미래 연구 주제에 대한 지침을 제공하므로 연구자들에게도 유용합니다.