랜덤 할당을 위한 효율적인 프라이버시 손실 분포 계산과 서브샘플링 개선

초록

본 논문은 사용자의 데이터를 k 개의 단계에 무작위로 할당하는 “k‑out‑of‑t 랜덤 할당” 샘플링 방식의 프라이버시 증폭 효과를 PLD(Privacy‑Loss Distribution) 관점에서 정확히 계산한다. 기존 분석이 제공하던 (ε, δ)·또는 Rényi‑DP 경계의 근사 오차와 계산 복잡성을 극복하고, Gaussian 메커니즘에 대해 Poisson 서브샘플링과 동등하거나 더 나은 프라이버시‑유틸리티 트레이드오프를 보인다. 핵심 기법은 exp‑PLD를 이용한 로그‑합 표현과 다중 컨볼루션을 로그‑시간에 수행하는 알고리즘이며, 실행 시간은 O(log³ t·log(t/β)/α²)이다. 또한 PLD 실현(Realization) 개념을 도입해 서브샘플링을 PLD 기반으로 직접 구현함으로써 기존의 수동적 분석을 자동화한다. 실험 결과는 제안 방법이 기존의 ε‑bound와 Rényi‑DP bound보다 훨씬 타이트하며, Monte‑Carlo 시뮬레이션과도 일치함을 보여준다.

상세 분석

이 논문은 두 가지 주요 기술적 공헌을 제시한다. 첫 번째는 “랜덤 할당”에 대한 프라이버시 손실 분포(PLD)를 효율적으로 계산하는 알고리즘이다. 기존 연구(Feldman & Shenfeld, 2025; Dong et al., 2025)는 k‑out‑of‑t 샘플링에 대해 ε·δ 또는 Rényi‑DP 형태의 상한을 제공했지만, 이는 근사 단계에서 손실이 발생하고, 복합 연산 시 추가 오버헤드가 발생한다는 한계가 있었다. 저자들은 PLD가 DP 라이브러리에서 표준으로 채택된 이유—손실을 손실 없이 합성하고 (ε, δ)·또는 Rényi‑DP로 변환이 가능함—에 착안해, 랜덤 할당에 대한 정확한 PLD를 직접 구한다. 핵심 아이디어는 1‑out‑of‑t 할당에 대해 지배적인 분포 쌍(Qₜ, \bar Pₜ)을 구성하고, 이때 PLD는 \ln(\bar Pₜ(x)/Qₜ(x))의 분포가 된다. 이 로그‑값을 직접 다루는 대신, exp‑PLD(즉, e^{PLD})를 정의하고, 이를 t‑차원 컨볼루션 형태로 표현한다. 이렇게 하면 로그‑합이 곱셈 형태가 되므로 FFT 기반 다중 컨볼루션을 로그‑시간에 수행할 수 있다.

두 번째 공헌은 “PLD 실현(Realization)” 개념이다. PLD를 근사할 때, 근사된 분포가 실제 어떤 두 분포의 PLD인지 보장해야 한다. 저자들은 multiplicative discretization(비율 기반 격자) 방식을 도입해, 근사된 exp‑PLD가 반드시 어떤 지배적인 분포 쌍에 대응하도록 설계했다. 이 설계는 근사 오차 α와 무한 손실 확률 β를 명시적으로 제어하며, 최종 (ε, δ) 보장은 이 두 파라미터에 의해 직접 변환된다. 알고리즘의 복잡도는 O(log³ t·log(t/β)/α²)이며, 여기서 log³ t는 이진 분할을 통한 자기‑컨볼루션, log(t/β)·α⁻²는 목표 정확도와 무한 손실 확률을 만족하기 위한 격자 크기와 FFT 연산 비용을 의미한다.

실험에서는 Gaussian 메커니즘을 적용한 경우를 중심으로, t와 σ(노이즈 표준편차)의 다양한 조합에 대해 기존 ε‑bound, Rényi‑DP bound, 그리고 Poisson 서브샘플링의 정확한 PLD와 비교하였다. 제안 방법은 모든 설정에서 기존 상한보다 타이트한 ε 값을 제공했으며, 특히 t가 커질수록 Poisson 서브샘플링과 거의 동일하거나 약간 우수한 결과를 보였다. Monte‑Carlo 시뮬레이션과의 일치성도 확인했으며, 이는 제안 알고리즘이 근사 오차 없이 실제 PLD를 거의 정확히 재현한다는 강력한 증거이다. 또한 k>1인 경우는 기존의 k‑out‑of‑t → 1‑out‑of‑⌊t/k⌋ 변환(Lemma 2.8)을 이용해 동일한 복합성을 유지하면서도 동일한 정확도를 얻을 수 있음을 보였다.

이 논문의 의의는 PLD 기반 프라이버시 회계가 이제 서브샘플링(특히 랜덤 할당)까지 자동화될 수 있다는 점이다. 기존에는 Poisson 서브샘플링에만 FFT‑기반 PLD 합성이 적용됐고, 다른 샘플링 방식은 수동적인 Rényi‑DP → (ε, δ) 변환이나 복잡한 분석이 필요했다. 여기서 제시된 PLD 실현과 exp‑PLD 컨볼루션 기법은 이러한 장벽을 제거하고, DP‑SGD, DP‑FTRL, 통신 효율을 위한 고차원 집계 등 다양한 실용적 시나리오에 바로 적용 가능하게 만든다.