주성분 분석

주성분 분석 PCA는 데이터 세트를 분석하고 단순화하는 기술입니다. 차원 축소라는 개념을 활용해 여러 지표를 보다 포괄적인 지표로 변환합니다. PCA는 다변수 통계 분포로 특성 수량 분석을 사용하는 방법입니다.

PCA는 1901년 칼 피어슨이 제안한 것으로, 원래는 데이터를 분석하고 수학적 모델을 수립하는 데 사용되었습니다. 주로 공분산 행렬에 대한 고유 분해를 수행하여 데이터의 주성분과 가중치를 얻습니다.

PCA 알고리즘 구현

PCA의 구체적인 작업은 데이터의 중심을 찾고 원래 데이터를 데이터에서 가장 중요한 요소로 대체하는 것입니다. 예를 들어, 데이터 집합은 n차원이고 m개의 데이터(x(1), x(2), …, x(m))를 포함합니다. m개 데이터의 차원을 n차원에서 n'차원으로 줄이려는 경우, 이 m개의 n'차원 데이터 세트는 원래 데이터 세트를 대체하고 동시에 손실을 줄일 수 있습니다.

PCA의 응용

• 탐색적 데이터 분석
• 데이터 전처리 및 차원 축소
• 데이터 압축 및 재구성

PCA 알고리즘의 장단점

PCA 알고리즘의 장점은 다음과 같습니다.

• 정보의 양은 분산에 의해서만 측정될 수 있으며, 이는 데이터 집합 외부의 요인에 영향을 받지 않습니다.
• 주성분 간의 직교성은 원래 데이터 성분 간의 상호 영향을 제거할 수 있습니다.
• 계산 방법은 간단하고, 주요 연산은 고유값 분해이며 구현하기 쉽습니다.

PCA 알고리즘의 단점은 다음과 같습니다.

• 주성분의 각 특성 차원의 의미는 모호하며 원래 샘플 특성만큼 설명적이지 않습니다.
• 분산이 작은 구성 요소에는 표본 차이에 영향을 미치는 중요한 정보가 포함되어 있을 수 있으며, 차원 축소 중에 이를 삭제하면 후속 데이터 처리에 영향을 미칠 수 있습니다.