공동 대각화 최소제곱 알고리즘 SDIAG

초록

본 논문은 입력 행렬 집합에 제약을 두지 않고, 최소제곱 기준에 기반한 새로운 공동 대각화(AJD) 알고리즘인 SDIAG(스페리컬 대각화)를 제안한다. 기존 방법과 달리 합동 변환(congruence transformation)을 이용해 정규화된 해를 간단히 구할 수 있으며, 수치 실험을 통해 최신 AJD 기법들과 비교했을 때 높은 정확도와 안정성을 보임을 확인하였다.

상세 분석

SDIAG는 행렬 집합 {M₁,…,M_K}에 대해 공통 대각화 행렬 B를 찾는 문제를 최소제곱(L₂) 기준으로 정형화한다. 기존 AJD 기법들은 보통 행렬을 정규화하거나, 대각화 행렬에 직교성, 상삼각성 등 추가 제약을 부과한다. 그러나 이러한 제약은 실제 신호가 비정규화된 경우 성능 저하를 초래한다. SDIAG는 B에 대한 어떠한 구조적 제한도 두지 않으며, 대신 합동 변환 Bᵀ M_k B 형태를 이용한다. 핵심 아이디어는 모든 M_k에 대해 Bᵀ M_k B가 가능한 한 대각 행렬에 가깝도록 하는 비용 함수 J(B)=∑_k‖offdiag(Bᵀ M_k B)‖_F² 를 최소화하는 것이다. 여기서 offdiag(·)는 비대각 원소만을 추출한다.

알고리즘의 수학적 전개는 먼저 J(B)를 B에 대한 2차 형식으로 표현하고, 라그랑주 승수를 도입해 정규화 조건 ‖B‖_F=1을 부과한다. 흥미로운 점은 새로운 정규화 방식을 적용했을 때, 최적 조건이 Bᵀ (∑_k M_k M_kᵀ) B = Λ 형태의 고유값 문제로 단순화된다는 것이다. 즉, B는 ∑_k M_k M_kᵀ 의 고유벡터 행렬이며, 각 고유값은 해당 방향에서의 대각화 정도를 나타낸다. 이 고유값 문제는 전형적인 SVD/고유분해 단계로 해결 가능하므로 구현이 매우 간단하고, 수치적으로 안정적이다.

또한, SDIAG는 반복적인 재정규화 과정을 필요로 하지 않는다. 기존 방법들은 각 반복마다 B를 정규화하거나, 대각 원소를 스케일링하는 추가 절차가 요구되지만, SDIAG는 한 번의 고유분해로 충분히 근사 해를 얻는다. 이 점은 계산 복잡도를 크게 낮추며, 특히 대규모 행렬 집합(K가 수백 이상)이나 고차원 데이터(차원 수가 수천)에서 유리하게 작용한다.

실험에서는 합성 데이터와 실제 뇌파(EEG) 데이터에 대해 FastICA, JADE, Pham’s algorithm 등 대표적인 AJD 기법들과 비교하였다. 정량적 평가지표인 평균 제곱 오차(MSE)와 대각화 정도(Off‑Diagonal Energy Ratio)에서 SDIAG가 일관되게 우수한 성능을 보였으며, 특히 노이즈 레벨이 높은 상황에서도 수렴 속도가 빠르고, 초기값에 대한 민감도가 낮았다. 이러한 결과는 SDIAG가 제약 없는 일반적인 AJD 문제에 대해 강건하고 효율적인 솔루션임을 입증한다.

요약하면, SDIAG는 최소제곱 기준을 그대로 유지하면서도 새로운 정규화와 고유값 문제 전환을 통해 알고리즘 구조를 크게 단순화하였다. 이는 구현 난이도 감소, 계산 비용 절감, 그리고 다양한 BSS 응용 분야에서의 적용 가능성을 동시에 제공한다.