일반화된 레이리 엔트로피이는 함수 R(A,B,x)를 나타내는 레이리 엔트로피의 확장으로 볼 수 있습니다.

$latex {R{ \left( {A,B,x} \right) }\text{ }=\text{ }\frac{{x\mathop{{}}\nolimits^{{H}}Ax}}{{x\mathop{{}}\nolimits^{{H}}Bx}}}$latexR(A,B,x) = xHBxxHAx​

여기서 x는 0이 아닌 벡터이고, A와 B는 n×n 에르미탄 행렬이고, B는 양의 정부호 행렬입니다. $latex {x\text{'}\text{ }=\text{ }B\mathop{{}}\nolimits^{{-1/2}}x}$latexx’ = B−1/2x 이면 분모는 다음과 같이 변환될 수 있습니다.

$latex {x\mathop{{}}\무제한^{{H}}Bx\text{ }=\text{ }x\text{'}\mathop{{}}\무제한^{{H}}{ \left( {B\mathop{{}}\무제한^{{-{{1}/{2}}}}} \right) }\mathop{{}}\무제한^{{-{{1}/{2}}}}x\text{'}\text{ }=\text{ }x\text{'}\mathop{{}}\무제한^{{-{{1}/{2}}}}BB\mathop{{}}\무제한^{{-{{1}/{2}}}}x\text{'}\text{ }={x\text{'}\mathop{{}}\nolimits^{{H}}x\text{'}}}$latexx\무제한HBx = x’\무제한H(B\무제한−1/2)\무제한−1/2x’ = x’\무제한−1/2BB\무제한−1/2x’ =x’Hx’

분자는 다음과 같이 변환됩니다.

$latex {x\mathop{{}}\무한^{{H}}Ax\text{ }=\text{ }x\text{'}\mathop{{}}\무한^{{H}}B\mathop{{}}\무한^{{-{{1}/{2}}}}AB\mathop{{}}\무한^{{-1/2}}x\text{'}}$latexx\무한HAx = x’\무한HB\무한−1/2AB\무한−1/2x’

이때에 R(A,B,x)는 ​R(A,B,x′)로 변환됩니다.

$latex {R{ \left( {A,B,x\text{'}} \right) }\text{ }=\text{ }\frac{{x\text{'}\mathop{{}}\무한^{{H}}B\mathop{{}}\무한^{{-1/2}}AB\mathop{{}}\무한^{{-1/2}}x\text{'}}}{{x\text{'}\mathop{{}}\무한^{{H}}x\text{'}}}}$latexR(A,B,x’) = x’\무한Hx’x’\무한HB\무한−1/2AB\무한−1/2x’​

위의 공식으로부터 우리는 일반화된 레이리 엔트로피가 행렬을 표준화할 수 있고 피셔 선형 판별 분석에서 중요한 역할을 한다는 결론을 내릴 수 있습니다.

참고문헌

【1】레이리 몫과 극값 계산

【2】선형 판별 분석 LDA 원리 요약