블록 에버라인 대각화 방법의 전역 수렴성과 효율성

초록

본 논문은 일반 복소 행렬의 고유값 문제를 해결하기 위한 에버라인 대각화 방법을 블록 형태로 확장한다. 블록 변환을 이용한 반복 과정을 정의하고, 전역 수렴성을 증명한다. 또한 다양한 피벗 순서와 블록 크기 선택에 대한 이론적 분석과 수치 실험을 제시한다.

상세 분석

본 연구는 기존의 에버라인(Eberlein) 대각화 방법을 블록 Jacobi 방식으로 일반화함으로써, 현대 고성능 컴퓨팅 환경에서의 메모리 계층 구조와 병렬 처리에 적합한 알고리즘을 제시한다. 핵심 아이디어는 행렬 A를 고정된 블록 파티션 π=(n₁,…,n_m) 으로 나누고, 각 반복 단계에서 선택된 블록 쌍(p,q)에 대해 두 종류의 변환 T_k=R_kS_k 를 적용한다. 여기서 R_k는 블록 유니터리 변환으로, 피벗 블록의 에르미트 부분 B(k) 를 대각화하도록 설계되며, UBC(Uniformly Bounded Cosine) 성질을 만족하도록 적절한 순열 P 를 통해 변환을 정규화한다. 이는 기존 원소 단위 Jacobi 방법에서 요구되는 회전 각도의 코사인 하한을 블록 차원에 일반화한 것으로, 수렴 증명에 핵심적인 역할을 한다. S_k는 비유니터리 블록 변환으로, Frobenius 노름을 감소시키는 목적을 가진다. 논문은 S_k 를 구성하기 위해 기존 원소 기반 알고리즘을 블록 수준으로 확장하고, 각 블록 행·열에 대한 4m‑4 개의 서브블록을 활용해 노름 감소를 최적화한다. 특히, 변환 각 β_l 와 하이퍼볼릭 각 ψ_l 을 정의하는 식(3.8)-(3.9) 를 통해 수치적으로 최대 노름 감소를 보장한다. 피벗 순서에 관해서는 일반화된 직렬 피벗 순서(Bsg) 를 도입하여, 순열·시프트·역전 등 다양한 동등 관계를 고려한 광범위한 순열 집합을 다룬다. 이는 순환 피벗 전략이 수렴 속도와 병렬 구현 가능성에 미치는 영향을 체계적으로 분석할 수 있게 한다. 수렴 증명은 B(k) 의 오프-다이어그램(off‑norm) 이 0 으로 수렴함을 보이며, 동시에 전체 행렬 A(k) 가 정상 행렬 Λ 로 수렴함을 보인다. 실험 섹션에서는 다양한 블록 크기와 피벗 전략을 적용한 사례를 제시하고, 전통적인 원소 기반 에버라인 방법 대비 연산량 감소와 수렴 속도 향상을 확인한다. 전체적으로 이 논문은 블록 Jacobi 프레임워크 내에서 에버라인 방법을 확장함으로써, 대규모 복소 행렬의 고유값 계산에 있어 메모리 효율성과 병렬성 확보라는 두 축을 동시에 만족시키는 중요한 기여를 한다.