셔플과 조인트 차등 프라이버시를 활용한 일반화 선형 컨텍스트 밴딧

초록

본 논문은 일반화 선형 모델(GLM) 기반 컨텍스트 밴딧 문제에 대해 셔플 차등 프라이버시와 조인트 차등 프라이버시를 적용한 최초의 알고리즘을 제시한다. 확률적 컨텍스트 환경에서는 셔플‑DP 알고리즘이 (\tilde O(d^{3/2}\sqrt{T}/\sqrt{\varepsilon}))의 기대 레그레스를 달성하고, 적대적 컨텍스트 환경에서는 조인트‑DP 알고리즘이 (\tilde O(d\sqrt{T}/\sqrt{\varepsilon}))의 레그레스를 얻는다. 두 알고리즘 모두 기존 GLM 밴딧에서 등장하던 인스턴스‑특정 파라미터 (\kappa)를 주요 (\sqrt{T}) 항에서 제거했으며, 컨텍스트 분포에 대한 스펙트럼 가정 없이 (\ell_2) 경계만을 요구한다.

상세 분석

이 연구는 기존 차등 프라이버시 기반 컨텍스트 밴딧이 선형 보상 모델에 한정됐던 한계를 넘어, 일반화 선형 모델(GLM)이라는 비선형 구조를 다루는 데 성공했다. GLM에서는 폐쇄형 해가 존재하지 않아 최대우도 추정(MLE)을 위해 반복적인 볼록 최적화가 필수적인데, 이는 프라이버시 비용을 여러 번 소모하게 만든다. 논문은 두 가지 핵심 기술을 도입한다. 첫째, 셔플‑DP 환경에서 사용되는 “셔플 프라이빗 벡터 합산” 프로토콜을 활용해 설계 행렬 (V)와 (H_k)를 여러 배치에 걸쳐 안전하게 공개한다. 이 과정에서 발생하는 가우시안 잡음은 행렬의 특이값을 비단조적으로 만든다. 둘째, 비단조적 행렬에 대해 기존의 “희귀 전환(rarely‑switching)” 기법이 깨지는 문제를 해결하기 위해, 현재 행렬이 아니라 지금까지 관측된 최대 행렬식값과 비교하는 새로운 전환 기준을 제시한다. 이 수정은 전환 횟수를 여전히 (O(d\log T)) 수준으로 제한하면서, 잡음이 섞인 행렬에서도 신뢰구간의 유효성을 보장한다.

프라이버시 분석 측면에서는, 조인트‑DP 알고리즘에서 전환 시점 자체가 데이터에 의존하므로 정보 누수가 발생할 위험이 있다. 저자들은 전환 인덱스 집합 (\mathcal{T}_o)가 두 인접 데이터셋 사이에서 ((\varepsilon,\delta))-구별 가능함을 보이기 위해, 이진 트리 구조 내에서 로그 수준의 노드만이 차이를 반영한다는 점을 이용해 가우시안 메커니즘의 합성 정리를 적용했다. 이는 기존 선형 밴딧에서 전환이 미리 정해져 있던 경우와는 근본적으로 다른 증명 기법이다.

알고리즘의 레그레스 분석에서는 최적 설계(G‑optimal design)를 차용해 배치별로 탐색 arm을 선택한다. GLM 특성상 (\kappa)라는 비선형성 파라미터가 레그레스 상수에 크게 영향을 미치지만, 저자는 초기 탐색 배치를 통해 (\kappa)‑의존 항을 제한된 라운드에만 집중시키고, 이후 단계에서는 스케일된 설계 행렬을 이용해 (\kappa)를 신뢰구간 폭에 흡수한다. 결과적으로 주요 (\sqrt{T}) 항에서는 (\kappa)가 사라져, 비프라이버시 GLM 밴딧과 동일한 차수의 레그레스를 유지하면서 프라이버시 비용만 (\sqrt{\varepsilon}) 만큼 악화된다.

또한, 셔플‑DP 알고리즘은 배치 크기를 (\tilde O(\kappa^{2/3}d^{2/3})) 수준으로 확대해 프라이버시 잡음과 통계적 오차를 동시에 제어한다. 잡음 파라미터 (\sigma)와 (\nu)는 각각 행렬 합산과 최적화 단계에서 발생하는 가우시안 노이즈의 분산을 나타내며, (\varepsilon)와 (\delta)에 따라 명시적으로 설정된다. 이러한 설계는 레그레스 상수에 로그 항을 제외하고는 차원 (d)와 시간 (T)에 대한 최적 차수를 달성한다는 점에서 의미가 크다.

전반적으로 이 논문은 (1) GLM에 대한 프라이버시 보호 추정 방법, (2) 비단조적 설계 행렬에 대한 새로운 전환 전략, (3) 인스턴스‑특정 파라미터 (\kappa)를 제거한 레그레스 분석이라는 세 가지 혁신을 제공한다. 이는 차등 프라이버시가 요구되는 의료, 교육, 맞춤형 추천 시스템 등에서 비선형 보상 구조를 안전하게 활용할 수 있는 이론적 기반을 마련한다.