HyperAI초신경

최소 제곱 회귀 트리

최소 제곱 회귀 트리이는 일반적으로 사용되는 회귀 트리 알고리즘입니다.

제곱 오차를 최소화하려면 각 특징의 값을 차례로 탐색하고 가능한 각 분할 지점의 오차를 계산해야 합니다. 마지막으로, 분할 오류가 가장 작은 지점을 선택하고 입력 공간을 두 부분으로 나눕니다. 분할이 완료될 때까지 위의 단계를 재귀적으로 반복합니다. 이 방법으로 분할된 트리를 최소 제곱 회귀 트리라고 합니다.

이 방법은 특히 분할점을 찾을 때 상대적으로 복잡합니다. 현재 피처의 가능한 모든 값을 탐색해야 하기 때문입니다. 예를 들어, 총 F개의 특징 값이 있고, 각 특징이 N개의 값을 가지며, 생성된 의사결정 트리에 S개의 내부 노드가 있는 경우, 알고리즘의 시간 복잡도는 O(F*N*S)입니다.

참고문헌

【1】CART 분류 및 회귀 트리 연구 노트(개인 블로그)