쿼터니언 행렬의 영역 다항식과 초극값 함수

초록

본 논문에서는 쿼터니언 행렬을 변수로 하는 영역 다항식(zonal polynomial)을 정의하고, 이와 연계된 초극값 함수(hypergeometric function)의 주요 성질을 전개한다. 정의된 영역 다항식의 생성함수, 연산법칙, 적분식 등을 증명한 뒤, 이를 이용해 중앙 쿼터니언 Wishart 행렬 $W\sim\mathbb{Q}W(n,\Sigma)$의 최대·최소 고유값 분포식을 구한다. 결과는 실수·복소수 경우와 구조적으로 유사하지만, 쿼터니언 특유의 비가환성에 따른 새로운 항이 나타난다.

상세 분석

논문은 먼저 쿼터니언 체 $\mathbb{Q}$ 위의 $p\times p$ 실대칭 행렬 공간을 $\mathbb{S}p^{\mathbb{Q}}$라 정의하고, 이 공간에 대한 불변성(invariance) 개념을 도입한다. 기존 실수·복소수 영역 다항식은 대칭군 $O(p)$ 혹은 $U(p)$의 불변 다항식으로 정의되었으나, 쿼터니언 경우는 스핀군 $Sp(p)$(심플렉틱 군)의 작용을 고려해야 한다. 저자는 $Sp(p)$-불변 다항식의 기저를 “쿼터니언 영역 다항식” $C{\kappa}(X)$ 로 명명하고, 파티션 $\kappa$에 대응하는 차수와 계수를 명시한다. 핵심은 $C_{\kappa}(X)$ 가 $Sp(p)$-불변 다항식이며, $X\in\mathbb{S}p^{\mathbb{Q}}$ 의 고유값 $\lambda_1,\dots,\lambda_p$ 에 대해 $C{\kappa}(X)=c_{\kappa},m_{\kappa}(\lambda)$ 형태로 표현된다는 점이다. 여기서 $m_{\kappa}$는 대칭 다항식이며, 계수 $c_{\kappa}$는 쿼터니언 차원 $4$ 를 반영한 정규화 상수이다.

다음으로 저자는 영역 다항식의 생성함수
\