전이학습 기반 정밀 행렬 추정 방법 TransGlasso

초록

TransGlasso는 제한된 표본을 가진 목표 연구에서 정밀 행렬(역공분산 행렬)을 추정하기 위해, 구조적으로 유사한 다수의 출처 데이터를 활용하는 두 단계 전이학습 프레임워크이다. 첫 단계에서는 공유 구조와 개별 차이를 동시에 모델링하는 다중과제 그래프라소(Glasso) 목표함수를 풀어 초기 추정치를 얻고, 두 번째 단계에서는 차분 네트워크 추정 기법으로 목표와 출처 행렬 간의 잔여 차이를 보정한다. 이론적으로 비점근적 오류 경계와 최소극대(optimal)율을 증명했으며, 시뮬레이션과 실제 유전자·단백질 네트워크 데이터에서 기존 방법들을 크게 능가함을 보였다.

상세 분석

TransGlasso는 고차원 정밀 행렬 추정 문제를 전이학습 관점에서 재구성한다. 핵심 가정은 목표 정밀 행렬 Ω₀와 각 출처 정밀 행렬 Ω_k가 대부분의 원소를 공유하고, 차이 부분은 희소하게 존재한다는 구조적 유사성이다(Assumption 1). 이를 수학적으로는 Ω_k = Ω* + Γ_k 형태로 표현하며, 공유 성분 Ω*는 s개의 비영(非零) 원소, 각 고유 성분 Γ_k는 h개의 비영 원소를 갖는다. s≫h라는 조건은 공유 구조가 지배적임을 의미한다.

첫 단계인 다중과제 학습(Multi‑Task)에서는 모든 데이터셋(목표 + K 개 출처)의 로그우도와 ℓ₁ 정규화를 결합한 목적함수
\