차등프라이버시 보장 최소극대화 최적화에서의 2차 정지점 탐색

초록

본 논문은 비볼록-강볼록(min–max) 구조를 갖는 stochastic 최적화 문제에서 차등프라이버시(DP)를 만족하면서 두 번째 차수의 정지점(SOSP)을 찾는 최초의 알고리즘을 제시한다. SPIDER 기반 변동 감소와 가우시안 잡음 삽입을 결합한 순수 1차 방법(DP‑RGDA)을 설계하고, 블록‑단위(q‑period) 분석을 통해 전체 반복에 걸친 잡음 누적을 제어한다. 결과적으로 경험적 위험(empirical risk)에서는 α=˜O((√d/(nε))^{2/3}), 모집단 위험(population risk)에서는 α=˜O(1/n^{1/3}+ (√d/(nε))^{1/2}) 수준의 고확률 2차 정지점 보장을 얻으며, 이는 기존 1차 정지점 결과와 동일한 차원이다.

상세 분석

이 연구는 기존 문헌이 최소극대화(min–max) 문제에서 1차 정지점(FOCP)만을 다루거나, 단일 레벨(stochastic minimization)에서만 DP‑SOSP를 다루는 한계를 극복한다. 핵심 아이디어는 두 개의 중첩 루프를 갖는 구조—외부 루프는 x(플레이어) 업데이트, 내부 루프는 y(대립자) 업데이트—에 SPIDER 방식의 변동 감소를 적용하고, 각 단계마다 가우시안 잡음을 추가해 (ε,δ)-DP를 보장한다는 점이다.

1. 문제 설정 및 가정
   • 목표 함수 f(x,y)=E