정규 직교 유사변환의 고유군 연구

초록

본 논문은 복소 정규 직교군 (O_n(\mathbb C)) 이 자기 자신과 스큐 대칭 행렬에 작용할 때 나타나는 고유군(동정군)을 전면적으로 규명한다. 일반적인 경우에는 고유군이 (SO_2(\mathbb C)) 의 직합으로 단순히 기술되지만, 고유값이 중복되는 비일반적 상황에서는 블록 토플리츠 형태의 직사각형 블록을 갖는 비특이 행렬군 (T_{\alpha,\mu}) 에 동형인 복잡한 구조가 나타난다. 논문은 이러한 군의 차원, 반직교성 조건, 그리고 실수 경우와의 관계까지 상세히 제시한다.

상세 분석

논문은 먼저 복소 정규 직교군 (O_n(\mathbb C)={Q\in GL_n(\mathbb C)\mid Q^TQ=I}) 과 스큐 대칭 행렬 공간 (\mathrm{Skew}_n(\mathbb C)) 에 대한 두 종류의 동작을 정의한다. (1) (Φ_1:O_n(\mathbb C)\times\mathrm{Skew}_n(\mathbb C)\to\mathrm{Skew}_n(\mathbb C),;(Q,M)\mapsto Q^TMQ) 와 (2) (Φ_2:O_n(\mathbb C)\times O_n(\mathbb C)\to O_n(\mathbb C),;(Q,M)\mapsto Q^TMQ) 이다. 각각의 동작에 대해 고유군 (\Sigma_M={Q\in O_n(\mathbb C)\mid Q^TMQ=M}) 을 연구한다.

일반적인 경우, 즉 행렬 (M) 의 고유값이 모두 단순할 때는 고유군이 (SO_2(\mathbb C)) 의 직합으로 완전히 기술된다. 구체적으로 (n)이 짝수이면 (\Sigma_M\cong\bigoplus_{j=1}^{n/2}SO_2(\mathbb C)), (n)이 홀수이면 추가로 ({\pm1})가 곱해진 형태가 된다 (Proposition 2.1). 이는 고유값이 서로 다른 2차 회전 블록만을 포함하기 때문에 가능한 결과이다.

비일반적 상황, 즉 고유값이 중복되거나 영 고유값이 존재하는 경우에는 고유군의 구조가 크게 복잡해진다. 저자는 이를 해결하기 위해 블록 토플리츠 행렬군 (T_{\alpha,\mu}) 을 도입한다. 여기서 (\alpha=(\alpha_1,\dots,\alpha_N))는 블록 크기의 감소열, (\mu=(m_1,\dots,m_N))는 각 블록의 복제 수를 나타낸다. 행렬 (X\in T_{\alpha,\mu})는 각 블록 (X_{rs})가 직사각형 상삼각 토플리츠 형태이며, (r>s)인 경우는 자유롭게 선택할 수 있다. 중요한 점은 (T_{\alpha,\mu})가 반직교성 조건 (B_r)-pseudo‑orthogonal을 만족하도록 제한된다(조건 (I)–(III)). 이 구조는 기존 연구(