초록
밀도 높은 조건부 확률장(CRF)의 추론 및 학습을 위한 일반적이고 효과적인 알고리즘인 정규화된 프랭크-울프(Regularized Frank-Wolfe)를 제안한다. 본 알고리즘은 비볼록(nonconvex) 연속적 근사 문제를 기존의 프랭크-울프(Frank-Wolfe) 알고리즘을 활용하여 근사 업데이트를 통해 최적화하며, 이는 정규화된 에너지 함수의 최소화와 동치이다. 제안하는 방법은 평균장(Mean Field) 또는 볼록-비볼록 절차(Concave-Convex Procedure)와 같은 기존 알고리즘의 일반화된 형태이다. 이러한 관점은 기존 알고리즘들을 통합적으로 분석할 수 있게 하며, 더 나은 성능을 낼 수 있는 다양한 변형 탐색을 간편하게 가능하게 한다. 이를 바탕으로 표준적인 의미 분할 데이터셋에서의 실험 결과를 제시하며, 제안된 정규화된 프랭크-울프의 여러 구현 사례가 평균장 추론보다 우수한 성능을 보였음을 보여준다. 이는 독립적인 구성 요소로 사용할 때뿐 아니라 신경망 내에서 엔드투엔드 학습 가능한 레이어로 활용할 때에도 동일하게 성능이 우수함을 보였다. 또한, 본 연구에서 제안한 새로운 알고리즘과 결합된 밀도 높은 CRF는 강력한 CNN 기반 모델보다도 상당한 성능 향상을 달성함을 입증하였다.