베이지안 추론의 차등 프라이버시 보장 방법

초록

이 논문은 베이지안 네트워크와 같은 확률 그래프 모델에서 사후분포를 공개하면서 차등 프라이버시(ε‑DP)를 만족하도록 설계된 네 가지 메커니즘을 제안한다. 첫 번째와 두 번째는 라플라스 잡음을 각각 사후 파라미터와 그 푸리에 변환에 직접 추가하는 방식이며, 세 번째는 사후 샘플링을 이용한 무노이즈 메커니즘, 네 번째는 MAP 추정값에 라플라스 잡음을 더하는 방식이다. 각 방법에 대해 프라이버시와 효용(유틸리티) 경계를 그래프 구조와 연결시켜 분석하고, 베이지안 나이브 베이즈와 베이지안 선형 회귀 실험을 통해 실용성을 검증한다.

상세 분석

본 연구는 베이지안 추론 과정에서 발생하는 사후분포 자체를 공개하는 것이 프라이버시 위험을 초래한다는 점에 착안한다. 차등 프라이버시를 만족시키기 위해 저자들은 네 가지 서로 다른 메커니즘을 설계했으며, 각각이 그래프 구조와 어떻게 상호작용하는지를 정량적으로 분석하였다.

첫 번째 메커니즘은 지수형 가족과 그에 대한 공액 사전분포를 가정하고, 베타 사후 파라미터(α, β)의 업데이트량에 라플라스 잡음을 직접 더한다. 전역 민감도는 그래프의 노드 수 |I|에 비례함을 보였으며, 이를 통해 ε‑DP를 달성한다. 효용 분석에서는 업데이트 카운트의 절대오차가 O(|I|·ε⁻¹·log (1/δ)) 이하임을 확률적 경계로 제시하고, KL 발산을 이용해 전체 사후분포와의 차이가 O(m n log n)·(1−e^{−nε²/|I|}) 수준임을 증명한다. 여기서 m은 각 변수의 부모 수 합으로, 그래프 평균 차수가 낮을수록 효용이 크게 개선된다.

두 번째 메커니즘은 라플라스 잡음을 푸리에 도메인에 적용한다. 원본 카운트 테이블을 푸리에 기저 {f_γ}에 투사한 뒤, 해당 계수에 잡음을 추가한다. 이때 잡음 규모는 |N_I| (노드와 그 부모들의 하위 폐쇄 집합) 에 비례하며, 그래프가 희소할수록 잡음이 작아진다. 푸리에 변환 후 역투사를 하면 모든 마진 테이블이 일관성을 유지하므로, “스텔스”(관측자에게 비정상적인 잡음 패턴이 드러나지 않음) 효과를 얻는다. 또한, 첫 번째 계수에 작은 양을 추가함으로써 비음수성을 확률적으로 보장한다.

세 번째 메커니즘은 기존 연구인 Dimitrakakis et al. (2014)의 사후 샘플링 방식을 확장한다. 여기서는 데이터에 대한 직접적인 잡음 주입 없이, 사전분포 자체를 조정해 Lipschitz 조건을 만족하도록 만든다. 만약 사전이 (ε, δ)-Lipschitz이면, 샘플링된 사후는 자동으로 (ε, δ)-DP를 보장한다. 이 방법은 연속형 파라미터나 비정형 사후분포에도 적용 가능하지만, 효용은 사전 선택에 크게 의존한다.

네 번째 메커니즘은 MAP 추정값에 라플라스 잡음을 더하는 방식이다. 이는 기존의 “additive noise mechanism”을 MAP 최적화 문제에 적용한 것으로, ε‑DP를 보장하면서도 점 추정값을 제공한다. 효용 분석에서는 MAP와 원본 MAP 사이의 L₂ 거리와, 잡음 규모에 따른 기대 손실을 제시한다.

전체적으로 논문은 그래프 구조가 프라이버시-효용 트레이드오프에 미치는 영향을 정량화한다는 점에서 독창적이다. 특히 푸리에 기반 메커니즘은 마진 일관성을 유지하면서도 잡음 규모를 그래프 차수에 따라 조절할 수 있다는 장점을 제공한다. 실험에서는 베이지안 나이브 베이즈와 베이지안 선형 회귀 모델에 적용해, 제안된 메커니즘이 실제 데이터에서 유의미한 정확도 손실 없이 ε‑DP를 달성함을 보여준다.