초록
히든 마르코프 모델(HMMs)과 확률적 문맥 자유 문법(PCFGs)은 모두 인자 그래프 문법(FGGs, Factor Graph Grammars)으로 표현될 수 있는 널리 사용되는 구조화된 모델들로, 이는 다양한 모델을 설명할 수 있는 강력한 형식 체계입니다. 최근 연구에서는 HMMs와 PCFGs에 큰 상태 공간을 사용하는 것이 유익하다는 것을 발견했습니다. 그러나 큰 상태 공간에서의 추론은 특히 PCFGs의 경우 계산적으로 요구가 많습니다. 이러한 도전 과제를 해결하기 위해, 우리는 텐서 랭크 분해(즉, CPD, Tensor Rank Decomposition)를 활용하여 HMMs와 PCFGs를 포함하는 FGGs의 부분 집합에 대한 추론의 계산 복잡도를 줄였습니다. FGG의 인자들에 CPD를 적용한 후, 랭크 공간에서 정의된 새로운 FGG를 구성합니다. 새로운 FGG로의 추론은 같은 결과를 생성하지만, 랭크 크기가 상태 크기보다 작을 때 시간 복잡도가 낮아집니다. 우리는 HMM 언어 모델링과 비지도 PCFG 파싱에 실험을 수행하였으며, 이전 작업보다 더 우수한 성능을 보여주었습니다. 우리의 코드는 \url{https://github.com/VPeterV/RankSpace-Models}에서 공개적으로 이용 가능합니다.