행렬 하이퍼볼릭 코사인 알고리즘과 그 응용

초록

본 논문은 Spencer의 하이퍼볼릭 코사인 알고리즘을 행렬 형태로 일반화하고, 이를 두 가지 특수 경우(군 구조를 갖는 행렬, 랭크‑원 행렬)에 적용한다. 군 구조에서는 곱셈표만으로 주어진 유한군에 대해 로그 차수의 확장 Cayley 그래프를 거의 최적에 가까운 O(n² log³ n) 시간에 결정적으로 구성한다. 랭크‑원 경우에는 양의 반정밀 행렬의 스펙트럴 스파스화 알고리즘을 제시해, 조밀 그래프의 스펙트럴 스파스화와 원소‑별 스파스화에 대한 새로운 결정론적 방법을 얻는다.

상세 분석

Spencer가 제시한 하이퍼볼릭 코사인 알고리즘은 스칼라 값들의 부호 선택을 통해 편차를 로그 수준으로 억제하는 기법으로, 기존의 확률적 방법을 결정론적으로 대체한다는 점에서 큰 의미를 갖는다. 이 논문은 그 아이디어를 행렬값으로 확장함으로써, 행렬들의 합에 대한 스펙트럼(특히 최대 고유값) 제어를 목표로 한다. 핵심은 각 단계에서 선택할 행렬을 “하이퍼볼릭 코사인” 함수의 기울기를 이용해 평가하고, 가장 큰 스펙트럴 증가를 최소화하는 방향으로 진행한다는 점이다.

두 가지 구조적 가정을 두고 알고리즘을 최적화한다. 첫 번째는 입력 행렬들이 유한군의 정규 표현으로 구성된 경우이다. 군 원소들의 곱셈표만 알면, 각 행렬을 군 원소에 대응시키고, 군 연산의 폐쇄성 및 역원 존재성을 활용해 행렬 곱셈을 O(1) 시간에 시뮬레이션한다. 이를 통해 전체 알고리즘의 복잡도를 O(n² log³ n)으로 낮출 수 있다. 여기서 n은 군의 크기이며, 로그 차수의 확장 Cayley 그래프를 구성하는 과정은 “확장성”을 보장하는 스펙트럴 갭을 결정론적으로 확보한다.

두 번째는 모든 입력 행렬이 랭크‑원 형태, 즉 u·vᵀ 형태로 표현될 수 있는 경우이다. 랭크‑원 행렬은 외적 구조를 가지므로, 하이퍼볼릭 코사인 함수의 미분값을 효율적으로 계산할 수 있다. 논문은 이를 이용해 각 단계에서 가장 큰 스펙트럴 기여를 하는 외적을 선택하고, 전체 합의 고유값을 로그 수준으로 억제한다. 결과적으로 양의 반정밀 행렬에 대한 스펙트럴 스파스화가 O(m log n) 시간에 가능해지며, 여기서 m은 비제로 원소 개수이다.

스펙트럴 스파스화 결과를 이용해 두 가지 응용을 제시한다. 첫째, 조밀 그래프의 스펙트럴 스파스화는 기존의 무작위 샘플링 기반 방법보다 결정론적으로 더 강력한 보장을 제공한다. 둘째, 스펙트럴 스파스화와 원소‑별 스파스화 사이의 간단한 변환 관계를 밝혀, 대각우위(diagonally dominant)와 유사한 구조를 가진 행렬에 대해 원소‑별 스파스화 알고리즘을 개선한다. 이 변환은 행렬의 스펙트럼을 보존하면서도 비제로 원소 수를 크게 줄이는 효과가 있다.

전체적으로, 행렬 하이퍼볼릭 코사인 알고리즘은 기존의 확률적 스파스화 기법을 결정론적으로 대체할 뿐 아니라, 군 구조와 랭크‑원 구조라는 두 가지 실용적인 경우에 대해 시간 복잡도를 크게 낮춘다. 이는 그래프 이론, 수치 선형대수, 그리고 알고리즘 설계 전반에 걸쳐 새로운 도구로 활용될 가능성을 열어준다.