HyperAI초신경

대략적인 추론

대략적인 추론가설-검증 논리를 사용하여 학습하는 모델 학습 방법입니다. 핵심 과제는 특정 분포에서 함수 기대값을 계산하거나, 주변 확률 분포, 조건부 확률 분포 등을 계산하는 것입니다.

일반적으로 적분이나 합산 연산이 필요하고, 매개변수 조건이 명확하지 않거나 계산 비용이 비교적 높은 경우, 근사 추론 방법을 사용하면 결과를 도출하는 데 드는 비용과 어려움을 줄일 수 있습니다.

근사 추론 방법

무작위 방법: 깁스 표본 추출 방법은 많은 수의 표본을 통해 진정한 사후 확률을 추정하고 실제 데이터를 기반으로 목표 분포를 근사화합니다.

장점: 더 정확하고 비교적 간단한 샘플링 프로세스, 작동이 쉬움, 이론적 수렴성이 좋음

단점 : 수렴속도가 느리고 수렴정도를 판단하기 어려움

변분법: 알려진 간단한 분포를 사용하여 사후 분포를 근사화합니다.

장점: 분석적 솔루션, 낮은 계산 오버헤드, 빠른 속도, 대규모 문제에 쉽게 적용 가능

단점: 파생 과정이 비교적 복잡하고 높은 인적 기술이 필요합니다.