한 달 전

신경망 행렬 분해

Gintare Karolina Dziugaite; Daniel M. Roy
신경망 행렬 분해
초록

데이터는 종종 배열이나 행렬 형태로 제공됩니다. 행렬 분해 기법은 행렬이 두 개의 저순위(저랭크) 행렬의 곱으로 표현될 수 있다는 가정 하에 누락되거나 손상된 항목을 복원하려고 합니다. 즉, 행렬 분해는 해당 행과 열의 잠재 특성 벡터에 대해 내적(Inner Product)이라는 간단하고 고정된 함수를 사용하여 행렬의 항목을 근사합니다. 여기서 우리는 데이터에서 동시에 학습하는 잠재 특성 벡터와 함께 임의의 함수로 내적을 대체하는 것을 고려합니다. 특히, 우리는 내적을 다층 피드포워드 신경망(Multi-layer Feed-forward Neural Network)으로 대체하고, 고정된 잠재 특성 벡터에 대한 신경망 최적화와 고정된 신경망에 대한 잠재 특성 벡터 최적화를 번갈아가며 학습합니다. 이 결과적인 접근 방식을 신경망 기반 행렬 분해(Neural Network Matrix Factorization, NNMF)라고 부르며, 다양한 벤치마크에서 표준 저순위 기법보다 우수하지만 그래프 특성을 활용하는 최근 제안들에는 미치지 못합니다. NNMF 프레임워크 내에서 사용할 수 있는 다양한 아키텍처, 활성화 함수, 정규화기, 최적화 기법 등을 고려할 때 이 접근 방식의 진정한 잠재력은 아직 충분히 발휘되지 않았다고 보입니다.

신경망 행렬 분해 | 최신 연구 논문 | HyperAI초신경