허미션 행렬의 유사 행렬식을 미분하는 방법

초록

이 논문은 허미션 행렬의 유사 행렬식에 대한 미분 연산자를 정의하고 연구합니다. 주요 결과로, 유사 행렬식의 미분 클래스가 비어 있지 않으며, 그 안에 유일한 표준적인 해인 ∇Det(A) = Det(A)A⁺가 존재함을 증명합니다. 여기서 A⁺는 무어-펜로즈 유사 역행렬입니다. 이 결과는 고전적인 행렬식의 기울기 공식을 일반화하며, 통계학에서 특이 공분산 행렬을 가진 퇴화 다변량 가우시안 분포의 최대우도 추정 문제 등에 응용됩니다.

상세 분석

이 논문의 핵심 기여는 불연속성을 가지는 유사 행렬식 함수에 대한 체계적인 미분법을 제시한 데 있습니다. 저자는 먼저 유사 행렬식을 비영(non-zero) 고유값의 곱으로 정의하고, 정칙 행렬식을 이용한 극한 표현(Det(A) = lim_{δ→0} det(A+δI)/δ^{n-k})을 제시하여 미분 접근의 기반을 마련합니다. 미분의 정의는 기존 방향 도함수 개념을 수정하여, 도함수가 정의되는 방향 B를 행렬 A와 커널이 동일한 행렬로 제한함으로써 불연속성으로 인한 문제를 해결합니다.

이를 바탕으로 유사 행렬식 도함수의 클래스를 두 가지 방식으로 정의합니다. 첫 번째는 방향 도함수 tr(B ∇Det(A))를 통해 정의하는 것이고, 두 번째는 행렬 방정식 A ∇Det(A) = A A⁺ Det(A) 및 ∇Det(A) A = A⁺ A Det(A)를 만족하는 행렬들의 클래스로 정의합니다. 논문은 이 두 정의가 동치임을 보이고, 이 클래스가 비어 있지 않음을 증명합니다.

가장 중요한 통찰은 이 클래스 내에 ‘표준적인(Canonical)’ 멤버가 유일하게 존재한다는 점입니다. 저자는 Knill의 정리(유사 행렬식의 제곱은 모든 rank k 주소행렬식의 제곱합)와 Berg의 정리(유사 역행렬에 대한 유사한 합 공식)를 연결하여, 이 표준 해가 ∇Det(A) = Det(A) A⁺ 임을 증명합니다. 이 해는 원래 행렬 A와 동일한 커널을 가지며, 행렬 미분 형식론을 통해 d Det(A) = Det(A) tr(A⁺ dA) 라는 간결한 표현도 얻을 수 있습니다. 이 결과는 A가 가역일 때 고전적인 공식 ∇det(A) = det(A) A^{-T} 로 환원됩니다.

이러한 미분법의 강력함은 응용 예시, 특히 통계학의 최대우도 추정 문제에서 드러납니다. 퇴화 가우시안의 로그 가능도 함수를 미분할 때 유사 행렬식과 유사 역행렬의 미분이 모두 필요하며, 본 논문에서 유도된 공식들이 이를 가능하게 합니다. 최종 추정량은 잔차 행렬의 표본 평균이지만, 공분산 행렬의 범위가 사전에 정해진 부분공간으로 제한되는 경우에는 해당 부분공간으로의 사영이 됨을 보입니다. 이는 완전 랭크 경우의 직관적인 결과를 자연스럽게 일반화합니다.