차등프라이버시 기반 데이터‑구동 마코프 체인 모델링

초록

본 논문은 사용자 행동을 모델링하는 마코프 체인 전이 행렬을 개인 데이터로부터 안전하게 구축하기 위한 차등프라이버시 메커니즘을 제안한다. 단순 확률벡터(단위 심플렉스)와 행렬 전체에 대해 Dirichlet 기반 노이즈를 삽입하고, 그 사후 정확도를 KL 발산, 정 stationary 분포 및 수렴율 변화로 정량화한다. 실험 결과, (ε,δ) = (3.73, 6·10⁻⁶) 수준의 강한 프라이버시 보장 하에서도 정 stationary 분포 오차가 2% 미만임을 확인한다.

상세 분석

이 논문은 두 단계의 기술적 기여를 통해 데이터‑구동 마코프 체인 모델링에 차등프라이버시를 적용한다. 첫 번째 단계는 단위 심플렉스(확률벡터) 형태의 쿼리 결과에 대해 Dirichlet 메커니즘을 확장하는 것이다. 기존 연구(Gohari et al., 2021)는 직접적인 확률벡터에 노이즈를 부여했지만, 무한 지원을 갖는 Gaussian·Laplace 방식은 확률벡터의 비음수·합 1 제약을 깨뜨린다. 저자는 파라미터 k를 조절하는 Dirichlet 분포를 이용해, 입력 벡터 p∈Δⁿ를 중심으로 k·p를 매개변수로 하는 확률분포에서 샘플링함으로써 출력이 항상 Δⁿ에 남도록 보장한다. 이때, (ε,δ)‑프라이버시를 확보하기 위해 출력 공간을 Ω₁(모든 성분 ≥γ)와 Ω₂(그 외)로 분할하고, Ω₂에 대한 확률을 δ로 제한한다. γ는 1/(n‑1) 이하로 설정해 모든 성분이 충분히 큰 영역을 정의한다.

두 번째 단계는 이러한 벡터 메커니즘을 행렬에 적용하는 것이다. 마코프 체인의 전이 행렬 G∈Sₙ는 각 행이 독립적인 확률벡터이므로, 각 행에 대해 동일한 Dirichlet 메커니즘을 독립적으로 적용하면 전체 행렬에 대한 (ε,δ)‑프라이버시가 보장된다(Composition Property). 저자는 이를 정리화하여 Theorem 3에 제시하고, 행렬 전체에 대한 민감도 분석을 통해 k와 ε 사이의 관계를 도출한다.

정확도 측면에서 논문은 두 가지 주요 지표를 사용한다. 첫째, KL 발산 K(q‖q̃)≤O(1/k) 형태의 상한을 제시해 벡터 수준에서 프라이버시 노이즈가 원본 분포와 얼마나 차이 나는지를 정량화한다(Corollary 1). 둘째, 마코프 체인의 정 stationary 분포 π와 프라이버시 적용 후 π̃ 사이의 L₁ 차이를 행렬 노름과 KL 발산을 이용해 상한을 구한다(Theorem 4). 또한, 전이 행렬의 스펙트럼 갭을 기반으로 수렴율(ergodicity coefficient) 변화도 분석해, 프라이버시 노이즈가 체인의 transient 동작에 미치는 영향을 정량화한다(Theorem 5).

실험에서는 두 개의 실제 데이터셋을 사용한다. 첫 번째는 대학 강의 성적 분포, 두 번째는 뉴욕시 택시 이동 데이터이다. 각각에 대해 원본 전이 행렬을 계산하고, 제안된 Dirichlet 메커니즘을 적용한 후 정 stationary 분포와 수렴율을 비교한다. (ε,δ)=(3.73, 6·10⁻⁶) 조건에서 정 stationary 분포의 평균 상대 오차가 1.8%에 불과했으며, 수렴율 변화도 0.03 이하로 미미했다. 이는 강력한 프라이버시 보장을 유지하면서도 실용적인 모델 정확도를 확보할 수 있음을 입증한다.

이 논문의 주요 강점은 (1) 확률벡터와 행렬 모두에 적용 가능한 단일 메커니즘을 제시해 구현 복잡성을 크게 낮췄으며, (2) 프라이버시와 정확도 사이의 이론적 트레이드오프를 KL 발산, stationary 분포 차이, 수렴율 변화라는 구체적 지표로 명시했으며, (3) 실제 대규모 데이터에 대한 실험을 통해 이론적 보장이 실무에서도 유효함을 검증했다는 점이다. 다만, 현재 접근법은 모든 행이 독립적으로 노이즈를 받는다고 가정하므로, 행 간 상관관계가 중요한 경우(예: 구조적 제약이 있는 전이 행렬)에는 추가적인 보정이 필요할 수 있다. 또한, k 파라미터 선택이 정확도에 크게 영향을 미치므로, 실용적인 시스템에서는 데이터 규모와 허용 오차에 따라 자동 튜닝 메커니즘이 요구된다.