혼합 희소 밀집 요인으로 유전자 발현 잡음 제어 모델

본 논문은 유전자 발현 데이터의 고차원 특성과 복잡한 잡음 구조를 동시에 고려한 새로운 베이지안 잠재 요인 모델을 제시한다. 서론에서는 유전체 연구에서 배치 효과, 인구 구조, 연령·성별·BMI와 같은 생물학적 공변량이 유전자 발현 측정에 미치는 영향을 강조하고, 이러한 잡음이 eQTL 분석의 통계적 파워를 저해한다는 점을 지적한다. 기존에는 주성분 분석(PC) 기반의 사전 제거가 일반적이지만, 이는 실제 신호를 함께 제거할 위험이 있다. 따라서 저자들은 희소 요인으로 실제 공동 조절 유전자 군을, 밀집 요인으로 전반적인 잡음 요인을 포착하는 모델을 설계하였다. 방법론에서는 기본적인 확률적 요인 분석 모델 Y = XΛ + ε을 시작으로, 로딩 행렬 Λ에 three‑parameter beta(TPB) 사전을 적용한다. TPB(a,b,φ) 사전은 전역 파라미터 τ, 요인별 파라미터 τ_k, 요소별 파라미터 λ_{kj}의 3단계 계층 구조를 형성한다. 전역 파라미터는 전체 로딩을 강하게 수축시켜 불필요한 요인을 자동으로 제거하고, 요인별 파라미터는 특정 요인을 살리며, 요소별 파라미터는 각 요인 내에서 실제 신호만을 남긴다. 이와 동시에 각 요인에 대해 두 가지 사전 중 하나를 선택하도록 하는 2‑component 혼합을 도입한다. 하나는 TPB‑정규화된 스파스 사전, 다른 하나는 거의 수축이 없는 덴스 사전이다. 혼합 비율 π_k는 베타 사전으로 모델링되어 데이터에 의해 추정된다. 따라서 모델은 요인마다 스파스·덴스 여부를 자동으로 판단한다. 추정 알고리즘은 변분 EM 방식을 채택한다. E‑step에서는 잠재 요인 X와 로딩 Λ의 기대값을 계산하고, M‑step에서는 TPB 하이퍼파라미터와 혼합 비율을 업데이트한다. 수렴성을 평가하기 위해 저자들은 두 가지 안정성 지표를 제안한다. 첫 번째는 스파스 로딩 행렬에 대해 라벨 스위칭과 스케일에 불변한 “행렬 일치도”를 측정하고, 두 번째는 덴스 로딩 행렬에 대해 회전 불변성을 고려한 “서브스페이스 유사도”를 계산한다. 이러한 지표는 반복 실행 시 모델이 동일한 구조를 재현하는지를 정량화한다. 실험에서는 먼저 다양한 시뮬레이션 시나리오(요인 수, 스파스·덴스 비율, 신호‑잡음 비율)를 통해 모델의 복원 정확도를 평가하였다. 결과는 기존의 Bayesian Factor Regression Model(BFRM), Infinite Sparse Factor Analysis(ISFA) 등과 비교해 요인 수 추정, 스파스·덴스 구분, 로딩 복원 모두에서 우수함을 보여준다. 특히 잡음이 강한 상황에서도 덴스 요인을 정확히 식별하고, 작은 규모의 유전자 군을 스파스 요인으로 회복한다. 실제 데이터 분석에서는 480개의 샘플과 8,718개의 유전자를 포함한 대규모 전사체 데이터를 사용하였다. 모델은 알려진 배치와 성별을 설명하는 두 개의 덴스 요인과, 평균 15개의 스파스 요인을 추출하였다. 각 스파스 요인에 해당하는 유전자 집합은 기능적 풍부성 분석에서 면역, 대사, 세포 주기 등 특정 생물학적 경로와 강하게 연관되었다. 이후 이 요인들을 종속 변수로 사용해 전장 eQTL 분석을 수행했으며, 수천 개의 cis‑eQTL와 수백 개의 trans‑eQTL를 발견하였다. 특히 일부 스파스 요인은 여러 유전자에 걸친 pleiotropic eQTL와 연결되어, 전통적인 단일 유전자‑단일 SNP 분석으로는 놓칠 수 있는 복합 조절 메커니즘을 드러냈다. 결론적으로, 본 연구는 (1) TPB 기반 3‑level 수축으로 비모수적 요인 선택을 구현, (2) 스파스·덴스 혼합 사전으로 잡음과 신호를 자동 구분, (3) 회전·라벨·스케일에 불변한 안정성 지표를 제공, (4) 효율적인 변분 EM 추정으로 대규모 데이터에 적용 가능하다는 점에서 기존 방법들을 뛰어넘는다. 이러한 모델은 유전체 데이터에서 잡음 제어와 네트워크 탐지를 동시에 수행해야 하는 다양한 생물학·의학 연구에 널리 활용될 수 있을 것으로 기대된다.