양의 반정치 행렬의 희소합 만들기

초록

이 논문은 임의의 순위(랭크)를 갖는 양의 반정치(positive semidefinite) 행렬들의 합을, 원래 합을 근사하면서 비제로 항의 개수를 크게 줄이는 “희소화” 알고리즘을 제시한다. Batson‑Spielman‑Srivastava(BSS) 방법과 행렬 곱셈 가중치 업데이트(MMWU) 기법을 기반으로 두 가지 결정론적 알고리즘을 설계하고, 각각 O(n/ε²)와 O(n log n/ε²) 수준의 지원 크기를 보장한다. 또한 그래프·하이퍼그래프 스펙트럴·컷 희소화, 비용 제약이 있는 스파시파이어, 그리고 반정치 프로그램(SDP)에서의 희소 해 찾기 등 다양한 응용을 제시한다.

상세 분석

본 논문은 “문제 2”라 명명된 일반화된 행렬 희소화 문제를 정의한다. 입력으로 n×n 양의 반정치 행렬 B₁,…,B_m이 주어지고, 그 합 B=∑₁^m B_i가 주어진다. 목표는 비음수 가중치 y∈ℝ^m을 찾아, y의 비제로 성분 수를 최소화하면서
  B ⪯ ∑₁^m y_i B_i ⪯ (1+ε)B
를 만족하도록 하는 것이다. 여기서 ⪯는 반정치 순서를 의미한다.

첫 번째 알고리즘은 Batson‑Spielman‑Srivastava(BSS) 알고리즘을 확장한다. 원래 BSS는 순위 1인 행렬 v_i v_i^T에 대해 O(n/ε²)개의 비제로 가중치만 남기는 결정론적 절차를 제공한다. 저자들은 이 절차를 일반 순위 행렬에 적용하기 위해, 현재 합 A=∑ y_i B_i의 최소·최대 고유값을 각각 ℓ, u 구간에 유지하도록 설계한다. 매 반복마다 새로운 행렬 B_j와 스칼라 α>0을 선택해 A←A+αB_j가 구간을 유지하도록 한다. 핵심은 두 개의 잠재 함수 U_A(t)(B_j), L_A(t)(B_j)를 정의하고, 이 값이 특정 부등식을 만족하면 α를 구할 수 있다는 점이다. 이를 통해 O(n/ε²)번의 반복만으로 목표를 달성한다. 시간 복잡도는 O(m n³/ε²)이며, Hermitian 양의 반정치 행렬에도 그대로 적용 가능하다.

두 번째 알고리즘은 Arora‑Kale의 행렬 곱셈 가중치 업데이트(MMWU) 프레임워크를 이용한다. MMWU는 매 단계마다 잠재 행렬 W_t=exp(η∑_{s≤t} M_s)를 유지하고, 손실 행렬 M_t에 대해 확률 분포를 업데이트한다. 저자들은 B_i를 손실 행렬로 해석하고, 적절한 학습률 η와 반복 횟수 T를 선택해 ∑ y_i B_i가 B와 (1±ε) 범위에 들어가도록 보인다. 기본 MMWU 분석으로는 O(n log n/ε³)개의 비제로 성분이 나오지만, 저자들은 분석을 미세 조정해 O(n log n/ε²)까지 개선한다. 이 방법은 BSS와 구조적으로 동일한 절차를 따르지만, 잠재 함수가 로그-디터미넌트 형태가 아니라 트레이스 기반이라는 차이가 있다.

두 알고리즘 사이의 연결 고리를 논문 8장에서 상세히 설명한다. BSS의 “잠재 함수”가 실제로는 MMWU에서 사용하는 로그-디터미넌트 잠재 함수와 동형임을 보이며, 두 접근법이 동일한 수학적 원리를 공유한다는 흥미로운 통찰을 제공한다.

응용 측면에서 저자들은 다음과 같은 결과를 도출한다.

1. 비용 제약이 있는 그래프 스파시파이어: k개의 비용 함수 c_i(e)가 주어질 때, O(n/ε²)개의 에지만 남기면서 모든 비용의 총합을 (1±ε) 범위에 유지한다.
2. 레인보우 스파시파이어: 색이 k개인 그래프에 대해 각 색별 에지 가중치 합을 동시에 보존한다.
3. 하이퍼그래프 스파시파이어: 하이퍼에지마다 완전 그래프 라플라시안을 정의하고, O(n/ε²)개의 하이퍼에지만 남겨 스펙트럴·컷 보존을 달성한다.
4. SDP 희소 해: 양의 반정치 제약을 갖는 SDP에서, 원래 해의 목표값을 (1+ε) 이내로 유지하면서 O(n/ε²)개의 변수만 사용하는 해를 구성한다.
5. Lovász θ′ 수와 t′(G) 보존: 그래프의 라플라시안 기반 지표를 유지하면서 에지를 크게 줄이는 알고리즘을 제시한다.

마지막으로, Theorem 3을 이용해 행렬 버전의 Carathéodory 정리를 얻는다. 즉, B=∑ λ_i B_i가 주어졌을 때, O(n/ε²)개의 행렬만 사용해 (1±ε) 범위 안에 B를 근사할 수 있다. 이는 기존 벡터형 Carathéodory 정리와 비교해 지원 크기는 더 크지만, 곱셈 오차가 상대적(곱) 형태라는 장점이 있다.

전체적으로 논문은 행렬 희소화 문제에 대한 이론적 한계를 크게 끌어올렸으며, BSS와 MMWU라는 두 강력한 도구를 통합해 다양한 구조적 제약을 동시에 만족하는 희소 해를 효율적으로 구할 수 있음을 보여준다.