그래픽 라쏘의 새로운 해석과 효율적 대안

초록

본 논문은 R 패키지 glasso가 해결하는 문제를 이중형식(dual)으로 재해석하고, 원시형식(primal)에서 블록 좌표 하강법을 적용한 p‑glasso와 그 변형인 dp‑glasso를 제안한다. 이론적 분석과 실험을 통해 dp‑glasso가 수렴성, 계산 복잡도, 그리고 목표 함수의 단조성 측면에서 기존 glasso보다 우수함을 보인다.

상세 분석

그래픽 라쏘는 정규화된 음의 로그우도 −log det(Θ)+tr(SΘ)+λ‖Θ‖₁를 최소화하는 문제(1)를 풀기 위해 고안된 알고리즘이다. 원 논문에서는 Θ의 역행렬 W=Θ⁻¹를 변수로 삼아 블록 좌표 상승(block‑coordinate ascent) 방식으로 이중문제(dual) max {log det(S+Γ)+p | ‖Γ‖∞≤λ}를 최적화한다는 사실을 보여준다. 즉, glasso는 실제로 Θ가 아니라 공분산 행렬 W를 업데이트한다. 이 과정에서 각 블록 업데이트는 라쏘 형태의 1차 회귀 문제를 풀지만, 그 라쏘 문제 자체를 다시 이중형식으로 변환해 해결한다. 이러한 구조적 특성 때문에 glasso는 매 반복마다 원시 목적함수 f(Θ) 가 단조 감소하지 않으며, 수렴이 보장되지 않을 경우도 발생한다(예: warm‑start 실패).

논문은 이를 보완하기 위해 두 가지 원시형식 알고리즘을 제시한다. 첫 번째인 p‑glasso는 Θ와 W를 동시에 유지하면서 블록 좌표 하강법을 적용한다. 각 블록에서는 (16)식 ½αᵀΘ₁₁⁻¹α+αᵀs₁₂+λ‖α‖₁을 최소화하고, 이후 식(17)·(18)을 이용해 Θ와 W를 정확히 갱신한다. 이 과정은 매 블록마다 O(p²) 연산을 요구하지만, Θ와 W가 항상 서로 역관계(ΘW=I)와 양정정성을 유지한다는 강점을 가진다.

두 번째인 dp‑glasso는 p‑glasso의 계산 병목을 해소한다. α‑문제를 기존 라쏘 형태가 아닌, 제약식 ‖γ‖∞≤λ 을 갖는 박스 제한 QP min ½(s₁₂+γ)ᵀΘ₁₁(s₁₂+γ) 으로 변형한다. 이 QP는 좌표별 소프트‑쓰레싱(soft‑thresholding) 연산만으로 O(p) 시간에 해결 가능하며, Θ₁₁은 기존 W를 이용해 직접 얻을 수 있다. 따라서 dp‑glasso는 각 블록 업데이트를 O(p)로 줄이고, 전체 알고리즘을 O(p³)에서 O(p²) 수준으로 가속한다.

이론적으로는 Lemma 1‑3, Theorem 1을 통해 dual와 primal 사이의 강한 이중성(strong duality)을 증명하고, dp‑glasso가 모든 반복에서 목표 함수값을 단조 감소시킴을 보인다. 실험에서는 합성 데이터와 실제 유전발현 데이터에 대해 경로 추정 정확도, 수렴 속도, 메모리 사용량을 비교했으며, dp‑glasso가 glasso와 p‑glasso보다 2~5배 빠르고, 수렴 실패 사례가 현저히 적었다.

결론적으로, 기존 glasso가 실제로는 dual 문제를 풀고 있어 원시 목적함수의 단조성을 보장하지 못하는 구조적 한계가 있음을 밝히고, 이를 보완한 p‑glasso와 특히 계산 효율이 뛰어난 dp‑glasso를 제안함으로써 그래픽 라쏘 분야에 실용적인 대안을 제공한다.